Daugelyje ekspertų teigia, kad sveikatos priežiūros aplinkoje labai svarbu įvertinti pardavėjų AI technologijas AI valdymo sistemoje. Pardavėjo teikiamos priemonės turi būti saugios, veiksmingos ir etiškos, kad būtų geriausi rezultatai visiems pacientams.

Kaip valdymo struktūros dalis turėtų būti veiksminga rizikos supratimo ir įvertinimo sistema, susijusi su AI sistemomis klinikinio naudojimo metu. Šis požiūris apibūdina keturias rizikos kategorijas ir klasifikavimo sistemą, kad būtų galima įvertinti riziką kiekvienoje kategorijoje.

Šios kategorijos yra:

1. Teisingumas ir skaidrumas
2. Sąžiningumas ir teisingumas
3. Integruota darbo eiga
4. Saugumas ir privatumas

Pabrėždama rizikos sritis, sveikatos sistema gali priimti labiau pagrįstus sprendimus, kuriuos naudoti įrankiai, ir technologijų diegimo komandos gali sukurti rizikos mažinimą, atitinkantį įrankius ar darbo eigas.

Tvirtos valdymo sistemos, skirtos bendrauti su pardavėjų produktais, nustatymas leis sveikatos priežiūros organizacijoms panaudoti komercinių AI sistemų pranašumus ir sumažinti riziką ir išlaikyti visuomenės pasitikėjimą, – sakė „UVA Health“ analitikos administratorius Glennas Wassonas. Jis turi informatikos daktaro laipsnį.

Wassonas kreipsis į šią temą HIMSS25 edukacinėje sesijoje pavadinimu „Mielieji AI pardavėjai: štai ko mums reikia“.

„UVA Health“ Wassonas prižiūri sveikatos sistemos kursą ir analizuoja pacientų priežiūros ir tyrimų duomenis. Jo atsakomybė apima duomenų operacijas, analizę, duomenų mokslą ir duomenų vizualizaciją.

Vykdydamas šį vaidmenį, jis dirba viskuo, pradedant nuo prognozuojamos prie lovos priežiūra iki gyventojų rizikos modeliavimo, baigiant ligoninės reitingo algoritmų atstumu. Jam ypač įdomu, kaip sukurti problemų sprendimo kultūras.

Mes apklausėme Wassoną dėl jo HIMSS25 sesijos peržiūros.

Q. Ką ligoninės ir sveikatos sistemos turi suprasti apie AI įrankius, palyginti su ankstesne programine įranga?

A. PG pereina į kiekvieną šiandienos sveikatos priežiūros įmonės aspektą, atverdamas duris į galimą visko patobulinimą, pradedant diagnozėmis ir gydymo planavimu, atsiskaitymo ir išteklių valdymu, baigiant tyrimais ir narkotikų atradimais.

Tačiau AI sistemose taip pat kyla nauja rizika, kurios nėra ankstesnėse programinės įrangos kartose. Organizacijos turi suprasti šią riziką ir jų galimą poveikį bei švelninimą, kad veiksmingai valdytų AI savo įmonėje.

Suprasti AI sistemų riziką ir naudą yra sudėtingas klausimas. Teikėjų organizacijos retai turi prieigą, pralaidumą ir (arba) talentą atlikti pardavėjo kodo analizę.

Vietoj to, šioje sesijoje aptariamas teikėjų organizacijų ir pardavėjų dialogo langas, kuris gali pabrėžti rizikos šaltinius. Šiam dialogui reikės padidinti duomenų, algoritmų ir darbo eigos skaidrumą, tačiau taip pat gali padėti pardavėjams ugdyti paslaugų teikėjų pasitikėjimą savo įrankiais.

K. Kaip jūs sutelksite dėmesį į AI savo HIMSS25 sesijoje?

A. Ši sesija yra susijusi su dirbtiniu intelektu ir tai yra daugybe variantų, o naujausia yra generatyvinė AI. Sveikatos priežiūros srityje AI gebėjimas analizuoti įrodymus, pagrįstas ankstesne žmonių patirtimi, leidžia jį naudoti daugelyje skirtingų scenarijų.

Tai apima diagnozės prognozę ir gydymo pasirinkimą, individualizuotą mediciną, personalo planavimą, lovų paskirstymą, tiekimo grandinės veikimą, nuotolinio stebėjimo, atsiskaitymo ir kodavimo patobulinimus, išlaidų sumažinimą per efektyvumą ir daugelį kitų.

Šioje sesijoje norime aptarti įvairius AI ir darbo eigų, leidžiančių AI ir žmonėms bendradarbiauti priimant sprendimus, naudojimo atvejus. Aptarsime, kaip supratimas apie veiksmus, atsirandančius dėl tų sprendimų, ir su tais veiksmais susijusi rizika gali sukelti pasitikėjimą savimi, kad AI sistema saugiai ir teisingai suteiks reikalingą palaikymą.

K. Kas yra vienas iš įvairių pasiėmimų, kurie, jūsų manymu, „Himss25“ dalyviai paliks jūsų sesiją ir galės kreiptis, kai jie grįš namo į savo organizacijas?

A. Dalyviai paliks supratimą apie naujus AI sistemos vertinimo aspektus, kurie nebuvo tradicinio technologijos vertinimo dalis. Mes pateiksime AI sistemos įvertinimo sistemą per dialogą (klausimų seriją) tarp teikėjų ir pardavėjų, kad suprastume riziką ir švelninimą.

Klausimuose bus atsižvelgiama į įvairius rizikos šaltinius – duomenų rinkinius, darbo eigas ir kt. – ir reikės kokybinių ir kiekybinių atsakymų.

Todėl šis dialogas nėra skirtas tiesiog būti AI profesionalų, pavyzdžiui, duomenų mokslininkų ar statistikų, diskusija, tačiau turi būti vadovai ir operatoriai, suprantantys numatytą diegimo aplinką ir darbo eigą.

Galiausiai aptarsime, kaip dinaminis šiandienos pažengusios AI mokymosi pobūdis reiškia, kad šis dialogas turi būti tęsiamas.

Wassono sesija „Mielieji AI pardavėjai: štai ko mums reikia“, numatyta kovo 4 d., Antradienį, nuo 10: 15-11: 15 val. Himss25 Las Vegase.

Stebėkite Billo hitą „LinkedIn“: Bill Siwicki
Siųskite jam el. Laišką: bsiwicki@himss.org
„Healthcare It News“ yra HIMSS žiniasklaidos leidinys