JAV Tėvynės saugumo departamentas ketvirtadienį paskelbė naujas įgyvendinamas rekomendacijas, padėsiančias skatinti saugų ir patikimą dirbtinio intelekto plėtrą ir diegimą visoje JAV ypatingos svarbos infrastruktūros objektuose, įskaitant sveikatos priežiūrą ir visuomenės sveikatą.

KODĖL TAI SVARBU
Dokumentas buvo parengtas konsultuojantis su daugybe suinteresuotųjų šalių iš viešojo ir privataus sektorių, per konferencinį pokalbį sakė krašto saugumo sekretorius Alejandro N. Mayorkas. Jis skirtas suderinti su Baltųjų rūmų vykdomuoju įsakymu dėl dirbtinio intelekto, kurį prezidentas Bidenas paskelbė prieš metus, nes jis taip pat yra „gyvas dokumentas“, padedantis nukreipti dirbtinio intelekto naudojimą kitai administracijai.

DHS yra įpareigota apsaugoti „metodus, kuriais amerikiečiai aprūpina savo namus ir verslą, atlieka finansines operacijas, dalijasi informacija, pasiekia ir teikia sveikatos priežiūros paslaugas bei deda maistą ant stalo“, remiantis nauja dirbtinio intelekto vaidmenų ir pareigų sistema. Kritinė infrastruktūra.

„Kadangi subjektai, kuriems priklauso ir eksploatuojamos šios ypatingos svarbos infrastruktūros sistemos, vis dažniau priima dirbtinį intelektą, departamento pareiga yra suprasti, numatyti ir spręsti rizikas, kurios gali neigiamai paveikti šias sistemas ir vartotojus, kuriems jos aptarnauja“.

Krašto saugumo departamentas nustato 16 ypatingos svarbos infrastruktūros sektorių, kurie, jo nuomone, yra gyvybiškai svarbūs vidaus ir pasauliniam saugumui ir stabilumui, nacionaliniam ekonominiam saugumui, nacionalinei visuomenės sveikatai ar saugai – „arba bet kokiam jų deriniui“.

Sveikatos priežiūra ir visuomenės sveikata yra vienos iš tų pagrindinių sričių.

„Šie sektoriai vis dažniau diegia dirbtinį intelektą, kad pagerintų teikiamas paslaugas, padidintų atsparumą ir atremtų grėsmes“, – teigiama naujojoje sistemoje. Tačiau „šiuo naudojimo būdu nėra jokios rizikos, o dėl šios technologijos įdiegimo atsiradusių pažeidžiamumų gali kilti kritinių sistemų gedimų arba piktybinių veikėjų manipuliavimo. Atsižvelgiant į tai, kad šios sistemos vis labiau tarpusavyje susijusios, jų sutrikimas gali turėti pražūtingų pasekmių šalies saugumui. “

Spalio 23 d. Baltųjų rūmų vadovas nurodė DHS sekretoriui sušaukti tarybą, kuri patartų jam ir kitoms viešojo ir privataus sektoriaus suinteresuotosioms šalims apie saugų ir patikimą svarbiausios šalies infrastruktūros vystymą ir naudojimą.

Sec. Pirmą kartą Mayorkas tą valdybą, kurioje yra OpenAI, Anthropic, AWS, IBM, Microsoft, Alphabet, Northrop Grumman ir kitų lyderių, subūrė praėjusią gegužę.

Kiti valdybos nariai yra Demokratijos ir technologijų centras, Pilietinių ir žmogaus teisių lyderystės konferencija, Stanfordo į žmogų orientuotas dirbtinio intelekto institutas, Brukingso institucija ir kiti vietos ir valstijos vadovai.

Nariai nurodė keletą jiems rūpimų sričių, pavyzdžiui, bendrų DI diegimo metodų nebuvimą, fizinio saugumo trūkumus ir nenorą dalytis informacija pramonės šakose.

Sistema, sukurta siekiant papildyti ir tobulinti esamas Baltųjų rūmų, AI saugos instituto, Kibernetinio saugumo ir infrastruktūros saugumo agentūros ir kitų gaires, buvo sukurta atsižvelgiant į AI tiekimo grandinės sluoksnius – nuo ​​debesijos ir skaičiavimo paslaugų teikėjų iki kūrėjų. , kartu su ypatingos svarbos infrastruktūros objektų savininkais ir operatoriais.

Dirbtinio intelekto saugos ir saugos taryba padėjo nustatyti tris pagrindines AI saugos ir saugumo spragų kategorijas kritinėje infrastruktūroje: atakas naudojant dirbtinį intelektą, atakas, nukreiptas į AI sistemas, ir projektavimo bei įgyvendinimo klaidas.

Remiantis Valstybės saugumo departamento duomenimis, siekiant pašalinti šiuos pažeidžiamumus, sistemoje rekomenduojama toliau nurodytus veiksmus nukreipti į pagrindines AI tiekimo grandinės suinteresuotąsias šalis:

• Debesijos ir skaičiavimo infrastruktūros teikėjai atlieka svarbų vaidmenį užtikrinant aplinką, naudojamą kuriant ir diegiant AI kritinėje infrastruktūroje, pradedant aparatinės ir programinės įrangos tiekėjų tikrinimu ir baigiant tvirto prieigos valdymo įvedimu ir DI sistemų maitinančių duomenų centrų fizinės saugos užtikrinimu. Sistema skatina juos remti klientus ir procesus, vykstančius po AI plėtros, stebint, ar nėra neįprastos veiklos, ir nustatant aiškius būdus pranešti apie įtartiną ir žalingą veiklą.

• DI kūrėjai kuria, moko ir (arba) suteikia galimybę kritinei infrastruktūrai pasiekti AI modelius, dažnai naudodami programinės įrangos įrankius ar konkrečias programas. Sistemose AI kūrėjams rekomenduojama taikyti „Secure by Design“ metodą, įvertinti pavojingas AI modelių galimybes ir užtikrinti modelio suderinimą su į žmogų orientuotomis vertybėmis. Sistema toliau skatina dirbtinio intelekto kūrėjus įgyvendinti griežtą privatumo praktiką; atlikti vertinimus, kurie tikrina galimus paklaidas, gedimo būdus ir pažeidžiamumą; ir paremti nepriklausomus modelių, keliančių didesnę riziką ypatingos svarbos infrastruktūros sistemoms ir jų vartotojams, vertinimus.

• Kritinės infrastruktūros savininkai ir operatoriai valdo saugią pagrindinių sistemų veiklą ir priežiūrą, kurios vis labiau priklauso nuo dirbtinio intelekto, kad sumažintų išlaidas, padidintų patikimumą ir padidintų efektyvumą. Jie siekia įsigyti, konfigūruoti ir įdiegti AI taip, kad būtų apsaugota jų sistemų sauga. Sistemose rekomenduojamos įvairios praktikos, skirtos dirbtinio intelekto sistemų diegimo lygiui, įskaitant tvirtos kibernetinio saugumo praktikos palaikymą, atsižvelgiant į su DI susijusią riziką, klientų duomenų apsaugą koreguojant dirbtinio intelekto produktus ir užtikrinant prasmingą jų DI naudojimo skaidrumą. teikti visuomenei prekes, paslaugas ar naudą. Sistema skatina ypatingos svarbos infrastruktūros objektus aktyviai stebėti šių AI sistemų veikimą ir dalytis rezultatais su AI kūrėjais ir tyrėjais, kad padėtų jiems geriau suprasti ryšį tarp modelio elgsenos ir realaus pasaulio rezultatų.

• Pilietinė visuomenė, įskaitant universitetus, mokslinių tyrimų institucijas ir vartotojų gynėjus, susijusius su AI saugos ir saugumo klausimais, yra labai svarbi norint įvertinti ir pagerinti AI poveikį asmenims ir bendruomenėms. Sistema skatina pilietinės visuomenės nuolatinį įsitraukimą į standartų kūrimą kartu su vyriausybe ir pramone, taip pat dirbtinio intelekto vertinimų tyrimus, kuriuose atsižvelgiama į ypatingos svarbos infrastruktūros naudojimo atvejus. Struktūroje numatytas aktyvus pilietinės visuomenės vaidmuo informuojant apie vertybes ir apsaugos priemones, kurios lems AI sistemos kūrimą ir diegimą pagrindinėse paslaugose.

• Viešojo sektoriaus subjektai, įskaitant federalines, valstijų, vietos, genčių ir teritorines vyriausybes, yra būtini atsakingam AI pritaikymui ypatingos svarbos infrastruktūroje – nuo ​​paramos šios technologijos naudojimui viešosioms paslaugoms gerinti iki DI saugos ir saugumo praktikos standartų tobulinimo. įstatyminis ir reguliavimo veiksmas. Jungtinės Valstijos pirmauja pasaulyje dirbtinio intelekto srityje; Atitinkamai, Sistema skatina nuolatinį federalinės vyriausybės ir tarptautinių partnerių bendradarbiavimą siekiant apsaugoti visus pasaulio piliečius, taip pat bendradarbiavimą visais valdžios lygmenimis finansuojant ir remiant pastangas tobulinti pagrindinius AI saugos ir saugumo tyrimus.

„Savo vykdomajame įsakyme dėl dirbtinio intelekto prezidentas Bidenas nurodė man sudaryti valdybą, kuri būtų skirta saugiam ir patikimam AI diegimui ypatingoje infrastruktūroje“, – sakė sek. Mayorkas konferencinio pokalbio metu lapkričio 15 d.

„Ieškojau narių, kurie būtų lyderiai savo srityse ir kartu atstovautų kiekvienai neatsiejamai ekosistemos daliai, kuri apibrėžia AI diegimą kritinėje infrastruktūroje. AI modelio kūrėjai, kritinė infrastruktūra, savininkai ir operatoriai, pilietinė visuomenė ir viešasis sektorius.

„Manome, kad mūsų ypatingos svarbos infrastruktūros sauga ir saugumas yra bendra atsakomybė“, – pridūrė jis. „Jei ši sistema bus plačiai pritaikyta, ji padės geriau užtikrinti svarbiausių paslaugų, teikiančių švarų vandenį, nuolatinę galią, prieigą prie interneto ir dar daugiau, saugą ir saugumą.

Mayorkas sakė, kad naujoji sistema yra „pirmasis toks produktas, sukurtas plačiai bendradarbiaujant su tokia taryba, platus ir įvairus suinteresuotųjų šalių rinkinys, dalyvaujantis kuriant AI diegimą mūsų šalies kritinėje infrastruktūroje“.

Jis pridūrė: „Atvirai kalbant, labai retai pasitaiko, kad pirmaujantys AI kūrėjai tiesiogiai bendradarbiautų su pilietine visuomene klausimais, kurie šiandien yra AI diskusijų priešakyje ir pateikia tokią bendradarbiavimo sistemą.

„Antra, jame pristatomas naujas pasidalytos ir atskiros atsakomybės modelis. Jame dėmesys sutelkiamas ne tik į vieną segmentą, bet ir apimantis. Jame pateikiamos konkrečios rekomendacijos, kurias kiekvienas ekosistemos dalyvis gali ir turėtų įgyvendinti, kad užtikrintų saugų ir patikimą AI kritinėje infrastruktūroje“.

Nors sistema yra „aprašomoji, o ne įsakmi“, sakė Mayorkas, „ji yra daug išsamesnė ir įtraukesnė nei anksčiau prisiimti savanoriški įsipareigojimai. Labai didžiuojamės valdybos parama ir pritarimu sistemai. Tai glaudaus bendradarbiavimo rezultatas. , ir tai turės ilgalaikį teigiamą poveikį dirbtinio intelekto saugai ir saugumui, nes organizacijos narės jį įgyvendins, paskatins kitus jį priimti ir taip skatins mūsų bendrus interesus, vykdydamos atitinkamus savo vaidmenis ir pareigas“.

Mayorkas pažymėjo, kad valdyboje dalyvavusios pramonės suinteresuotosios šalys padėjo užtikrinti, kad gairės būtų aktualios, praktiškos ir įgyvendinamos.

„Tai nėra dokumentas, skleidžiantis teorijas“, – sakė jis. „Tai dokumentas, kuriame pateikiamos praktinės gairės, kurias galima ir reikia įgyvendinti, siekiant pagerinti saugą ir saugumą.

DHS, sakė Mayorkas, „bandomieji projektai pademonstravo didžiules AI galimybes, kad mūsų misija būtų tobulinama. Mes priimame tuos bandomuosius projektus ir iš tikrųjų integruojame dirbtinio intelekto sėkmę į savo veiklą. Mes diegiame dirbtinį intelektą, kad pagerintume savo misiją, pirmąją.”

Tuo tarpu pokalbio metu ne kartą buvo paminėta, kad iki Bideno Baltųjų rūmų liko du mėnesiai, kol vadovaus naujas prezidentas.

„Aš, žinoma, negaliu kalbėti apie ateinančios administracijos požiūrį į mūsų suburtą valdybą“, – sakė M. Mayorkas. „Tikrai tikiuosi, kad tai išliks. Tai nepaprastas svarbiausių suinteresuotųjų šalių susirinkimas visoje ekosistemoje. Tačiau ši sistema išliks.”

DIDESNĖ TENDENCIJA
Neseniai vykusiame HIMSS sveikatos priežiūros kibernetinio saugumo forume Gregas Garcia, Sveikatos sektoriaus koordinacinės tarybos kibernetinio saugumo darbo grupės vykdomasis direktorius, paaiškino, kaip HSCC kartu su kitomis sektorių koordinuojančiomis tarybomis visoje CISA siekia padėti sveikatos priežiūros organizacijoms būti stipresnėms ir geriau pasirengusioms prieš lankstus ir atsparus priešas“.

Visoje sveikatos priežiūros ekosistemoje sveikatos sistemoms ir visuomenės sveikatos agentūroms reikia „mobilizuotis“ nuo kibernetinių grėsmių, kurios kasdien tampa vis sudėtingesnės, sakė Garcia, o blogiukai tobulina savo socialinės inžinerijos išnaudojimus dirbtiniu intelektu ir tampa drąsesni bei negailestingesni. .

Sveikatos priežiūros IT naujienos rašė ir daug pranešė apie AI, saugumo ir saugos sankirtą, įskaitant naujas NIST ir CHAI vertinimo priemones ir sistemas.

Tuo tarpu pagrindinės sveikatos priežiūros suinteresuotosios šalys įsipareigojo bendradarbiauti su Biden EO dėl „sąžiningo, tinkamo, galiojančio, veiksmingo ir saugaus“ dirbtinio intelekto naudojimo.

ĮRAŠĄ
„Šiandien kuriant dirbtinį intelektą dalyvaujančių organizacijų ir asmenų pasirinkimai lems, kokį poveikį ši technologija rytoj turės mūsų kritinei infrastruktūrai“, – sakė M. Mayorkas pranešime spaudai. „Esu dėkingas už įvairiapusę dirbtinio intelekto saugos ir saugumo patirtį. Valdyba ir jos nariai, kurių kiekvienas informavo šias gaires remdamasis savo patirtimi kuriant, diegiant ir skatinant atsakingą šios nepaprastos technologijos naudojimą.

„Kadangi pereiname į AI erą, mūsų pagrindinė atsakomybė yra užtikrinti, kad šios technologijos būtų saugios ir naudingos“, – sakė NVIDIA generalinis direktorius Jensenas Huangas, dirbęs dirbtinio intelekto valdyboje. „DHS AI sistemoje pateikiami pagrindiniai principai, kurie padės mes saugome visuomenę ir palaikome šias pastangas“.

Mike’as Miliardas yra „Healthcare IT News“ vykdomasis redaktorius
Siųskite rašytojui el. laišką: mike.miliard@himssmedia.com
„Healthcare IT News“ yra HIMSS leidinys.