JAV maisto ir vaistų administracija (FDA) paskelbė gairių projektą „Dirbtinį intelektą palaikančių įrenginių programinės įrangos funkcijos: gyvavimo ciklo valdymas ir rinkodaros pateikimo rekomendacijos“. Šiame dokumente aprašomas viso produkto gyvavimo ciklo (TPLC) metodas, skirtas valdyti ir parduoti su dirbtiniu intelektu palaikančius medicinos prietaisus, sprendžiant unikalius AI technologijų iššūkius ir riziką.

Išsamios DI įgalintų įrenginių gairės

FDA rekomendacijų projektas užtikrina, kad medicinos prietaisai su dirbtiniu intelektu išliktų saugūs, veiksmingi ir patikimi per visą savo gyvavimo ciklą. Integruojant geros mašininio mokymosi praktikos (GMLP) principus ir pabrėžiant skaidrumą, gairėse gamintojams pateikiamas aiškus reguliavimo planas. Pagrindinės rekomendacijos apima svarbias sritis, įskaitant įrenginio aprašą, rizikos vertinimą, duomenų valdymą, modelio patvirtinimą, veikimo stebėjimą ir kibernetinį saugumą.

Pagrindinės rekomendacijos:

1. Įrenginio aprašymas
Gamintojai turi išsamiai aprašyti įrenginio įvestis, išvestis, numatomus vartotojus, naudojimo aplinkas ir darbo eigas. Šie aprašai suteikia suinteresuotosioms šalims aiškų supratimą apie įrenginio funkcionalumą ir numatomą naudojimą.

2. Vartotojo sąsaja ir ženklinimas
FDA reikalauja aiškaus pranešimo apie įrenginio funkcijas ir veikimą. Gamintojai turi sukurti patogias sąsajas ir visapusišką ženklinimą sveikatos priežiūros specialistams ir pacientams.

3. Rizikos vertinimas
Gamintojai turi parengti išsamius rizikos valdymo planus, kad būtų pašalintas galimas pavojus ir vartotojo klaidos. Šiuose planuose pirmenybė teikiama saugai per visą įrenginio gyvavimo ciklą.

4. Duomenų valdymas
Tvirta duomenų rinkimo, apdorojimo ir patvirtinimo praktika yra būtina. Gamintojai turi užtikrinti duomenų įvairovę, kokybę ir kiekį, kad sumažintų šališkumą ir pagerintų modelio tikslumą.

5. Modelio aprašymas ir kūrimas
Rekomendacijose pabrėžiama skaidraus AI modelio dizaino svarba. Gamintojai turi dokumentuoti modelio architektūrą, mokymo metodus, našumo rodiklius ir funkcijų pasirinkimo procesus.

6. Patvirtinimas
FDA pabrėžia griežtus patvirtinimo tyrimus, įskaitant žmogiškuosius veiksnius ir tinkamumo naudoti testus, kad patvirtintų įrenginio veikimą realaus pasaulio scenarijuose.

7. Įrenginio veikimo stebėjimas
Stebėjimas po pateikimo į rinką atlieka svarbų vaidmenį nustatant ir sprendžiant veiklos pokyčius. Gamintojai turi įgyvendinti aktyvias strategijas, kad užtikrintų nuolatinį patikimumą.

8. Kibernetinis saugumas
Gamintojai turi imtis tvirtų kibernetinio saugumo priemonių, kad apsisaugotų nuo tokių pavojų, kaip duomenų apsinuodijimas ir modelio vengimas, užtikrinant įrenginio vientisumą.

Skaidrumas ir šališkumo mažinimas

Naujose gairėse pirmenybė teikiama skaidrumui ir šališkumo kontrolei. FDA skatina gamintojus naudoti modelių korteles, kurios yra struktūrinės santraukos, kuriose vartotojams pateikiama svarbi informacija apie AI modelį. Be to, norėdami užtikrinti teisingus rezultatus, gamintojai turi įvertinti įrenginių veikimą įvairiose demografinėse grupėse.

Pagrindiniai atnaujinimai, palyginti su ankstesnėmis gairėmis

Rekomendacijų projekte pateikiami reikšmingi atnaujinimai, palyginti su ankstesnėmis FDA gairėmis, sprendžiant su dirbtiniu intelektu susijusių technologijų sudėtingumą. Pagrindiniai pasiekimai apima:

1. Viso produkto gyvavimo ciklo (TPLC) metodas
   • Ankstesnės gairės: Siūlomi bendrieji gyvavimo ciklo valdymo principai.
   • Naujos gairės: Didžiausias dėmesys skiriamas TPLC metodui, pritaikytam įrenginiams, kuriuose palaikomas dirbtinis intelektas, ir apimantis projektavimą, kūrimą, diegimą ir priežiūrą.
2. Skaidrumas ir šališkumas
   • Ankstesnės gairės: Suteiktas ribotas dėmesys šioms sritims.
   • Naujos gairės: Apima išsamias skaidrumo užtikrinimo ir šališkumo mažinimo strategijas, pvz., pogrupių analizę ir demografinį vertinimą.
3. Duomenų valdymas
   • Ankstesnės gairės: Pateiktos bendros rekomendacijos.
   • Naujos gairės: Pabrėžia duomenų kokybę, įvairovę ir kiekį kaip esminius AI modelio kūrimo veiksnius.
4. Modelio aprašymas ir kūrimas
   • Ankstesnės gairės: Reikalingi pagrindiniai programinės įrangos aprašymai.
   • Naujos gairės: Reikalauja išsamių reikalavimų, apimančių modelio architektūrą, mokymo metodus ir kokybės kontrolę.
5. Veiklos patvirtinimas
   • Ankstesnės gairės: Įtraukti bendrieji patvirtinimo reikalavimai.
   • Naujos gairės: Rekomenduoja konkrečius žmogaus ir įrenginio sąveikos ir pogrupio veikimo įvertinimus.
6. Kibernetinis saugumas
   • Ankstesnės gairės: Suteiktos bendros kibernetinio saugumo priemonės.
   • Naujos gairės: Su pritaikytais testavimo protokolais pašalinama su DI būdinga rizika, pvz., duomenų apsinuodijimas ir našumo dreifavimas.
7. Viešo pateikimo santrauka
   • Ankstesnės gairės: Reikalingos pagrindinės viešos santraukos.
   • Naujos gairės: Pabrėžia skaidrumą su išsamiomis viešomis santraukomis ir modelių kortelėmis.
8. Įrenginio veikimo stebėjimas
   • Ankstesnės gairės: Sutelktas į bendrą priežiūrą po pateikimo į rinką.
   • Naujos gairės: Pasisako už aktyvų stebėjimą ir išsamią realaus pasaulio veiklos duomenų analizę.
9. Naudojimo įvertinimas
   • Ankstesnės gairės: Pateiktos bendros naudojimo rekomendacijos.
   • Naujos gairės: Daugiausia dėmesio skiriama vartotojo sąveikai ir AI išvesties interpretavimui.

Skaitmeninės sveikatos ateities sistema

Atnaujintos FDA gairės parodo jos įsipareigojimą skatinti naujoves, tuo pat metu teikiant pirmenybę pacientų saugai. Spręsdama unikalius AI palaikančių įrenginių iššūkius, agentūra sukuria tvirtą skaitmeninės sveikatos ateities sistemą. Šios gairės padeda gamintojams naršyti reguliavimo kelius ir kartu reklamuoti patikimus, aukštos kokybės dirbtinio intelekto sprendimus, skirtus pagerinti pacientų priežiūrą.

Kai FDA renka atsiliepimus apie šį gairių projektą, visos sveikatos priežiūros ekosistemos suinteresuotosios šalys turi galimybę formuoti AI reguliavimo ateitį. Dėmesys skaidrumui, šališkumo mažinimui ir gyvavimo ciklo valdymui atspindi besikeičiančius skaitmeninės sveikatos kraštovaizdžio poreikius, kuriuos vis labiau skatina dirbtinis intelektas.