Nardymo trumpas:

• Maždaug 65 % arba 1 696 apklaustų JAV ligoninių pranešė, kad naudoja dirbtinį intelektą arba nuspėjamuosius modelius, integruotus su elektroninių sveikatos įrašų (EHR) sistema. „Health Affairs“ paskelbtas tyrimas pirmadienį. Tyrime buvo naudojami 2023 m. Amerikos ligoninių asociacijos metinio tyrimo informacinių technologijų priedo duomenys.
• Nuspėjamieji modeliai gali apimti AI arba mašininio mokymosi komponentą. Ligoninės pranešė, kad naudoja modelius su priežiūra susijusiems sprendimams, pvz., prognozuoja pavojų pacientų sveikatai. Jie taip pat buvo naudojami administracinėms užduotims, įskaitant sąskaitų išrašymą ir planavimą.
• Daugiau ligoninių turi patikrinti modelių tikslumą ir šališkumą, naudodamos savo duomenis, rašė tyrimo autoriai. Iš ligoninių, kurios pranešė naudojusios nuspėjamuosius modelius, 61 % įvertino modelių tikslumą ir tik 44 % įvertino jų šališkumą pagal vietinius duomenis.

Nardymo įžvalga:

Nuspėjamųjų modelių naudojimas buvo sutelktas, nes reguliuotojai kuria naują politiką, skirtą spręsti susirūpinimą dėl skaidrumo ir AI sveikatos priežiūros srityje.

Anksčiau šią savaitę, Maisto ir vaistų administracija paskelbė rekomendacijų projektą paaiškinama, kokią informaciją kūrėjai turėtų įtraukti į išankstinės rinkodaros informaciją apie įrenginius, kuriuose veikia dirbtinis intelektas.

Paskutinė Technologijų politikos sekretoriaus padėjėjos, anksčiau žinomo kaip Nacionalinio sveikatos informacinių technologijų koordinatoriaus biuras, taisyklė įsigaliojo sausio mėn. Taisyklė reikalauja, kad sveikatos IT įmonės tai padarytų pateikti tam tikrą informaciją apie sprendimų palaikymo įrankiuspavyzdžiui, kaip modeliai buvo patvirtinti ir šališkumo mažinimo metodai, ir apima nuspėjamąsias priemones, kurios nėra reglamentuojamos kaip medicinos prietaisai.

Tyrimas neparodė, kiek nuspėjamųjų modelių, kuriuos naudojo ligoninės, buvo medicinos prietaisai, tačiau buvo aprašyta, kaip ši technologija naudojama ir kas ją sukūrė.

Priemonės dažniausiai buvo naudojamos prognozuojant sveikatos trajektorijas ar riziką stacionariems pacientams (92 proc.), nustatyti didelės rizikos ambulatorinius ligonius, kuriems reikalinga tolesnė priežiūra (79 proc.) ir planuoti (51 proc.).

Maždaug 79 % ligoninių, naudojusių nuspėjamuosius modelius, teigė, kad jos buvo sukurtos iš savo EHR kūrėjo, o 59 % naudojo kitus trečiųjų šalių įrankius, o šiek tiek daugiau nei pusė pranešė, kad naudoja pačių sukurtus modelius.

Tyrėjai nustatė, kad ligoninės, kurios sukūrė savo modelius, buvo labiau linkusios įvertinti juos vietoje tikslumo ir šališkumo.

Vietinis vertinimas yra svarbus, nes modeliai, parengti naudojant tam tikrus duomenų rinkinius, gali būti neveiksmingi arba naudingi skirtingose ​​​​nustatymuose. Algoritminis šališkumas gali pabloginti sveikatos nelygybę sukuriant kliūtis priežiūrai arba nepakankamai atstovaujant pacientams.

„Nerimą kelia tai, kad 56 procentai šių ligoninių nepranešė, kad įvertino savo įdiegtus modelius dėl šališkumo ir todėl sistemingai neapsaugo pacientų nuo galimai šališko ar nesąžiningo AI“, – rašė mokslininkai.

Jie taip pat perspėjo apie mintį, kad administracinės priemonės yra mažesnės rizikos nei klinikinės priemonės, nurodydami tyrimus, kurie parodė, kad dauguma pacientų nepatogiai naudojasi modeliais. numatyti sąskaitos apmokėjimą arba praleisti susitikimai.

Tyrimo apribojimas yra tas, kad jaudulys dėl AI potencialo ir susirūpinimas dėl algoritminio šališkumo galėjo paskatinti ligonines pervertinti savo AI modelių naudojimą ar vertinimą.

Autoriai padarė išvadą, kad nepriklausomoms ligoninėms, turinčioms mažiau išteklių, reikia paramos, kad būtų užtikrintas tikslus ir nešališkas AI naudojimas, ir kad „tiekėjų pačių sukurtų modelių, kurie šiuo metu nepatenka į federalinio reguliavimo taikymo sritį, augimas ir platus poveikis galėtų pateisinti papildomą svarstymą. “