Umetna inteligenca, ki uide izpod nadzora, je strašljiva, a rešljiv problem (mnenje)

Na splošno velja, da pri modelih umetne inteligence besede "ušel" oziroma "pobegnil" ne želite slišati. Zato je nekaj nedavnih incidentov razlog za skrb.

Samo v zadnjem mesecu je Meta Platforms razkrila, da je eden njenih modelov vdrl v storitev tretje osebe, potem ko je zaradi napake dobil dostop do interneta. Anthropic je razkril tri primere, ko je njegov model Claude dostopal do zunanjih sistemov, britanski inštitut za varnost umetne inteligence (AI Security Institute) pa je zabeležil več primerov agentov, ki so "vztrajno in brez dovoljenja ukrepali proti resničnim ljudem in organizacijam".

Najbolj odmeven je bil primer OpenAI. Podjetje je razkrilo, da sta dva njegova avtonomna agenta med varnostnim testiranjem poskušala zaobiti zaščito testnega okolja, vzpostaviti povezavo z internetom, izkoristiti ranljivosti v programski opremi in ukrasti poverilnice za dostop do produkcijskih sistemov družbe Hugging Face, ki razvija tehnologije strojnega učenja. Tam sta brez dovoljenja pridobila podatkovne zbirke. Skupno sta v različnih, med seboj nepovezanih sistemih izvedla več kot 17.000 prikritih dejanj.

Čeprav se sliši precej alarmantno, je pri tem primeru nekaj okoliščin, ki so lahko pomirjujoče. Med testiranjem so bile običajne varnostne zaščite namerno izklopljene, da bi raziskovalci lahko preverili zmogljivosti agentov. Modela sta sledila cilju, ki so jima ga zastavili ljudje – opraviti varnostni test – in nista delovala samostojno ali iz zlonamernih namenov. Poleg tega je OpenAI sam zagotovil orodja, ki sta jih uporabila, in ni ustrezno omejil njunega delovanja.

Napake so bile torej predvsem človeške.

Če vse te primere pogledamo skupaj, nikakor ne pomenijo, da smo na pragu vstaje robotov. Kažejo pa, da lahko vse zmogljivejši modeli umetne inteligence povzročijo veliko škodo, če jih spremljajo pomanjkljive varnostne zaščite in nepremišljena pravila. Za ameriške oblasti iz tega izhaja nekaj pomembnih naukov.

Prvi je, da je treba kibernetsko varnost vzeti precej bolj resno. Umetna inteligenca ne prinaša nujno povsem novih kibernetskih groženj, temveč predvsem pospešuje že obstoječe. Kot kažejo ti primeri, lahko avtonomni sistemi programske ranljivosti odkrijejo in izkoristijo veliko hitreje ter v večjem obsegu kot človeški hekerji. Obramba mora zato uporabljati najnaprednejše modele, ki lahko ranljivosti odkrivajo in odpravljajo s podobno hitrostjo.

Prav zato je trenutna politika ZDA zgrešena. Bela hiša je junija uvedla izvozne omejitve za dva Anthropicova modela in od OpenAI zahtevala, naj enega svojih modelov umakne iz ponudbe, ne da bi svojo odločitev javno pojasnila. Modela sta bila pozneje znova na voljo, vendar z omejitvami pri uporabi za kibernetsko varnost. Hugging Face je bil medtem prisiljen za analizo napada uporabiti kitajski model z odprtimi utežmi, saj so ameriški najnaprednejši modeli zavrnili njegove zahteve.

Takšen pristop od primera do primera je slab za gospodarstvo in še slabši za varnost, zlasti ker odprtokodni modeli hitro napredujejo. Bolj smiselno bi bilo najnaprednejše modele široko omogočiti za potrebe kibernetske varnosti, na primer za iskanje ranljivosti in pregledovanje kode, hkrati pa strožje omejiti funkcije, ki omogočajo obsežne napade. Mednje sodijo nenadzorovan dostop do interneta, dostop do poverilnic in možnost samostojnega izvajanja napadov.

Tako bi obrambna orodja ostala široko dostopna, hkrati pa bi omejili možnosti zlorab in ohranili konkurenčen trg. Takšen pristop sicer ne bi preprečil vsakega napada, bi pa zmanjšal tveganje, ki ga predstavljajo agenti, ki uidejo izpod nadzora, ter otežil ciljno usmerjene napade in jih podražil.

Kongres lahko medtem poskrbi, da bodo razvijalci umetne inteligence več pozornosti namenili lastni varnosti. Razmisliti bi moral o zaupnem sistemu prijavljanja resnih incidentov z avtonomnimi agenti, podobnemu sistemu za prijavo kibernetskih incidentov. Pri modelih z naprednimi ofenzivnimi zmogljivostmi bi moral zahtevati tudi neodvisne revizije varnostnih standardov in testnih okolij. Poleg tega bi bilo treba jasneje določiti odgovornost za škodo, ki jo povzročijo avtonomni sistemi, morda skupaj z zaščito za raziskovalce, ki delujejo odgovorno in v skladu s pravili.

Umetna inteligenca je lahko nedvomno neprijetno orodje. Vendar ni čarobna, zlonamerna ali skrivaj samozavedna. Z nekaj razumnimi pravili bi morali oblikovalci politik poskrbeti, da bodo sistemi ostali pod nadzorom, koristi umetne inteligence pa bodo lahko izkoristili tudi vsi drugi.