Maisto ir vaistų administracijos prietaisų centras paaiškino, kaip gamintojai turėtų kreiptis į dirbtinį intelektą a pirmadienį paskelbtas gairių projektas.

Dokumente pateikiamos rekomendacijos dėl projektavimo, kūrimo ir priežiūros, siekiant užtikrinti, kad dirbtinio intelekto įrenginiai būtų saugūs ir veiksmingi. Konkrečiai, gairėse nurodoma, kaip prietaisų gamintojai turėtų spręsti skaidrumo ir šališkumo klausimus ir kada reikia stebėti po pateikimo į rinką.

FDA Skaitmeninės sveikatos kompetencijos centro direktorius Troy Tazbaz teigė, kad agentūra iki šiol leido naudoti daugiau nei 1000 AI palaikančių įrenginių.

„Kadangi ir toliau matome įdomius pokyčius šioje srityje, svarbu pripažinti, kad įrenginiams, kuriuose palaikomas dirbtinis intelektas, yra specifinių aplinkybių“, – sakė Tazbazas. sakoma pranešime.

Toliau pateikiamos naujos gairės galutinis nurodymas FDA praėjusį mėnesį paskelbė apie iš anksto nustatytus pakeitimų kontrolės planus (PCCP) – sistemą, skirtą įrenginių pakeitimams po to, kai jie patenka į rinką. Šiuo metu dauguma rinkoje esančių įrenginių su dirbtiniu intelektu yra „užrakinti“, o tai reiškia, kad modelis nesikeičia po autorizacijos.

Naujausiame gairių projekte FDA paragino įrenginių rėmėjus apsvarstyti galimybę naudoti PCCP, leidžiantį keisti įrenginius, kad pagerintų modelio veikimą, nepateikiant naujos informacijos.

FDA viešas pastabas priims iki balandžio 7 d., o internetinį seminarą planuoja surengti vasario 18 d.

Skaidrumo rekomendacijos

Išsamus požiūris į skaidrumą ir šališkumą yra ypač svarbus įrenginiams, kuriuose veikia dirbtinis intelektas, nes daugelis modelių gali būti neskaidrūs arba vartotojams sunkiai suprantami, juodraštyje rašė FDA.

Pacientai skambino norėdami gauti daugiau informacijos apie tai, kada dirbtinis intelektas naudojamas jų priežiūrai ir kaip FDA priima sprendimus dėl AI palaikančių įrenginių. Daugumos įgaliotų įrenginių pateikimo santrauka turi būti prieinama visuomenei, o FDA teigė, kad kūrėjai šiuose dokumentuose turi įtraukti pakankamai informacijos.

Kūrėjai turėtų nurodyti, ar įrenginyje naudojamas AI, paaiškinti, kaip naudojamas AI, ir paaiškinti įrenginyje naudojamo modelio tipą. Jie taip pat turėtų pateikti informaciją apie duomenų rinkinius, naudojamus kuriant ir patvirtinant įrenginį, įskaitant demografines charakteristikas, ir pasidalinti aprašymu, kaip modelis bus atnaujinamas ir prižiūrimas laikui bėgant pagal gaires.

FDA pasiūlė naudoti modelių kortelėsarba trumpi dokumentai su pagrindine informacija apie AI modelį, kad galėtumėte tvarkyti informaciją.

Šališkumo mažinimas

Vienas su AI palaikančių įrenginių susirūpinimą kelia galimas šališkumas arba neteisingi rezultatai dėl modelio mokymo duomenų apribojimų arba klaidingų prielaidų. Pavyzdžiui, modelis gali būti per daug išmokytas atpažinti vaizdų, susijusių su konkrečiu skaitytuvu ar klinikine vieta, ypatybes. Jei tam tikri žmonių demografiniai rodikliai yra nepakankamai atstovaujami duomenų rinkinyje, tai taip pat gali turėti įtakos modelio našumui.

„Nors šališkumą gali būti sunku visiškai pašalinti, FDA rekomenduoja gamintojams iš pradžių užtikrinti, kad patvirtinimo duomenys pakankamai atspindėtų numatomą medicinos prietaiso naudojimo (tikslinę) populiaciją“, – rašė FDA.

Kiti šališkumo mažinimo būdai apima stebėjimo prietaisus per visą gaminio gyvavimo ciklą ir našumo įvertinimą numatomo naudojimo pogrupiuose.

Agentūra teigė, kad įrenginių kūrėjai turėtų pateikti aprašą, kaip buvo renkami duomenys, taip pat kiekvieno duomenų rinkinio dydį ir apribojimus. Jie taip pat turėtų pateikti metodų, naudojamų siekiant padidinti įtraukimo į tyrimą įvairovę, aprašymą ir tai, kaip jie užtikrino, kad rezultatus būtų galima apibendrinti visose pacientų populiacijose ir klinikinėse vietose.

Stebėsenos planai po pateikimo į rinką

FDA rekomendavo gamintojams parengti veiklos stebėjimo planą po pateikimo į rinką, nes AI palaikančių įrenginių našumas laikui bėgant gali keistis arba pablogėti.

Įvesties duomenų, pvz., pacientų populiacijų ar ligų modelių, pakeitimai gali turėti įtakos modelio veikimui.

Kūrėjai turėtų aktyviai stebėti ir spręsti įrenginio veikimo pokyčius, taip pat įvesties ar įrenginio naudojimo konteksto pakeitimus, kurie gali turėti įtakos jo veikimui, nurodė FDA.