Amodei, Altman in Musk pozivajo k upočasnitvi razvoja modelov umetne inteligence

Voditelji največjih svetovnih platform za umetno inteligenco so dejali, da je čas za upočasnitev razvoja njihovih najnaprednejših – in najdonosnejših – modelov, pri čemer so opozorili na vse večja tveganja te tehnologije.

Glavni izvršni direktor družbe Anthropic Dario Amodei je v soboto objavil obsežen zapis, v katerem je napovedal, da bo njegovo podjetje uvedlo nove varnostne ukrepe, med drugim ocenjevanje s strani neodvisnih zunanjih strokovnjakov. Panogo je obenem pozval k širši upočasnitvi razvoja.

Vodja OpenAI Sam Altman je hitro obljubil, da bo sprejel Amodeijev predlog o "neodvisnih ocenjevalcih z dostopom, primerljivim z dostopom zaposlenih", Elon Musk, ki vodi družbo xAI, pa je zapisal: "Dario ima prav."

Čeprav vsi trije voditelji že leta opozarjajo na tveganja umetne inteligence, bi bila dejanska usklajena upočasnitev skoraj brez primere v ostro konkurenčni panogi, ki je doslej hitro predstavljala izdelek za izdelkom, da bi povečala dejavnost uporabnikov, pridobila tržni delež in okrepila prodajo.

Zaskrbljenost zaradi resnih tveganj umetne inteligence pa se je začela širiti tudi zunaj strokovnih krogov. K temu je deloma prispeval ta teden odmevni odstop raziskovalca pri Anthropicu, ki je zaradi eksistencialnih tveganj menil, da njegovo podjetje ravna neodgovorno. Šlo je za zadnje v vrsti vse resnejših opozoril iz panoge, da se umetna inteligenca razvija tako hitro, da predstavlja vse večjo grožnjo nacionalni varnosti in svetovnemu gospodarstvu.

Naraščajoča zaskrbljenost glede varnosti umetne inteligence sovpada z vse močnejšim nasprotovanjem tehnologiji v ZDA. To deloma spodbujajo pomisleki glede obremenitve lokalnih virov, ki jo povzročajo novi podatkovni centri, potrebni za delovanje umetne inteligence. Skrbi, da ta zvišuje račune za elektriko in bi lahko ukinjala delovna mesta, so jo postavile med osrednje teme novembrskih vmesnih volitev.

Ni jasno, kako daleč bodo vodilna podjetja za umetno inteligenco – ki so med seboj ostri tekmeci, hkrati pa se spoprijemajo tudi z močno konkurenco kitajskih družb – šla pri uvajanju novih omejitev ali varnostnih preverjanj.

Demis Hassabis, glavni znanstvenik pri družbi Alphabet in soustanovitelj Google DeepMinda, je v sobotni objavi na omrežju X dejal, da je "smer" Amodeijevega zapisa "prava", vendar je treba "podrobnosti še razdelati".

Prav tako ni jasno, ali bi organi za varstvo konkurence podjetjem dovolili, da razvoj usklajeno upočasnijo. Tu je še vprašanje za trge, ki jih je navdušenje nad umetno inteligenco poneslo na nove višave: kako bi se na zamisel o upočasnitvi odzvali vlagatelji, željni visokih marž in dobičkov?

Amodei je za svojo novo previdnost navedel dva glavna razloga: sposobnost umetne inteligence, da izboljšuje samo sebe, in nedavni incident, povezan z OpenAI in Hugging Face, v katerem je roj agentov umetne inteligence sodeloval pri vdoru na spletno mesto tretje osebe.

"Upočasniti moramo tempo, s katerim izboljšujemo zmogljivosti modelov umetne inteligence," je v sobotnem zapisu navedel Amodei. "Napredek se bo še vedno zdel hiter, čas, ki ga bomo pridobili, pa moramo modro izkoristiti." Obenem je poudaril, da mora biti vsaka upočasnitev uravnotežena z dejstvom, da podjetja tekmujejo med seboj.

"Da ne bo nesporazuma: uravnavanje tempa ne pomeni ustavitve učenja modelov ali tehničnega napredka. Pomeni pa, da si podjetja vzamejo dovolj časa za uskladitev modelov z varnostnimi cilji in uvedbo zaščitnih ukrepov ter da to potrdijo neodvisni zunanji ocenjevalci," je zapisal Amodei.

Vodstva vodilnih laboratorijev za umetno inteligenco ves čas njenega razcveta opozarjajo na morebitna eksistencialna tveganja. Takšne trditve so nekateri včasih zavračali kot poskus promocije zmogljivosti njihovih izdelkov in predstavljanja podjetij kot najprimernejših skrbnikov tehnologije. Amodei je tudi sam že dejal, da obstaja 25-odstotna verjetnost, da se bodo stvari končale "zelo, zelo slabo".

Anthropic se že dolgo predstavlja kot podjetje, osredotočeno na odgovornejši in varnejši razvoj umetne inteligence, da bi zmanjšalo morebitne nevarnosti tehnologije in čim bolj povečalo njene koristi za družbo. Podjetje je letos skrbno omejilo dostop do svojega modela Mythos, potem ko je ugotovilo, da predstavlja posebna tveganja za kibernetsko varnost. Anthropic je že prej dejal, da svet potrebuje sistem za skupno odločanje o tem, kdaj upočasniti razvoj tehnologije.

Hkrati Anthropic ostaja v ostrem tekmovanju z dolgoletnim rivalom OpenAI pri razvoju vse naprednejših modelov, ki lahko za poslovne stranke avtomatizirajo vse zahtevnejše in dragocenejše naloge. Obe podjetji sta zaupno vložili dokumentacijo za javno ponudbo delnic, Anthropic pa naj bi na Wall Streetu debitiral morda že letos.

Altman iz OpenAI je dejal, da bi bil letošnji vstop na borzo "nespameten", in v intervjuju za Fortune, objavljenem v soboto, povedal, da se uvrstitev delnic na borzo ne bo zgodila pred letom 2027. "Mislim, da je nesprejemljivo sprejemati nekaj takega kot desetodstotno možnost, da bomo do konca desetletja pobili vse ljudi," je dodal.

Kmalu po razkritju varnostnega incidenta pri Hugging Face je Anthropic sporočil, da so njegovi modeli med preizkusi kibernetske varnosti vdrli v tri organizacije. To je okrepilo skrbi glede sposobnosti laboratorijev za umetno inteligenco, da preprečijo nenadzorovano delovanje svoje tehnologije. V začetku tega tedna je Anthropic dejal, da je odkril še četrti vdor.

Čeprav nobeden od vdorov, ki so jih izvedli agenti umetne inteligence, vključno s primerom Hugging Face, doslej ni povzročil večje škode, je Amodei dejal, da ga skrbi možnost, da bi "v šestih do dvanajstih mesecih takšen roj lahko prevzel nadzor nad celotnim internetom s trajno mrežo okuženih naprav, kar bi lahko povzročilo za več sto milijard dolarjev škode, obseg škode pa bi od tam naprej še naraščal".

Amodei je zapisal, da se Anthropic zavezuje neodvisnim zunanjim ocenjevalcem omogočiti popoln dostop za preverjanje varnostnih praks in poročanje o incidentih. Podjetje bo te "vključene ocenjevalce" kmalu sprejelo v svoje pisarne ter jim zagotovilo delovne mize, službene izkaznice, službene prenosnike in "dovoljenja, večinoma primerljiva s tistimi, ki jih imajo notranje ekipe za ocenjevanje tveganj".

Dodal je, da bodo za nadaljnje korake potrebni usklajevanje celotne panoge in sodelovanje na svetovni ravni. "Še naprej verjamem, da lahko umetna inteligenca izjemno izboljša kakovost človeškega življenja. Moja želja, da dosežemo te koristi, ni nič manjša," je zapisal. "Toda koristi bomo dosegli le, če bomo tehnologijo razvili na pravi način. Če bomo pridobljeni čas dobro izkoristili, se splača ravnati nenavadno premišljeno, da nam to uspe."

Vse večja zaskrbljenost

Altman je v začetku tega tedna dejal, da njegovo podjetje razmišlja o upočasnitvi razvoja najnaprednejše umetne inteligence, po možnosti skupaj s širšo panogo.

Glavni znanstvenik podjetja Jakub Pachocki je objavil opozorilo o nevarnostih umetne inteligence. Dejal je, da bi se morala podjetja po njegovem mnenju "usklajevati, da bi po potrebi upočasnila nadaljnji razvoj".

Raziskovalec umetne inteligence Jacob Coxon je v torek zapustil službo in oba svoja nekdanja delodajalca – Anthropic in OpenAI – obtožil, da s tekmo za razvoj superinteligentne umetne inteligence "tvegata naša življenja". Coxon je v objavi na družbenem omrežju dejal, da ljudje, ki razvijajo umetno inteligenco, verjamejo, da bi nas ta lahko "vse pobila do konca desetletja".

V odzivu je Evan Hubinger, sedanji zaposleni pri Anthropicu, dejal, da ta scenarij skrbi tudi njega in druge v podjetju. "Osebno menim, da je verjetnost za to v prihodnjem desetletju več kot desetodstotna," je zapisal na omrežju X.

Že julija je več kot tisoč zaposlenih v vodilnih podjetjih za umetno inteligenco podpisalo peticijo, v kateri so ameriško vlado pozvali, naj podpre mehanizem, ki bi pomagal "premišljeno uravnavati tempo" razvoja umetne inteligence in preprečil, da bi tehnologija napredovala prehitro.

Modeli umetne inteligence postajajo vse spretnejši pri samostojnem izvajanju vdorov. Anthropic, OpenAI in Meta so v zadnjih mesecih vsi razkrili, da so njihovi modeli med preizkušanjem zapustili testna okolja, dostopali do odprtega interneta in vdrli v sisteme dejanskih tarč.

Amodei je v svojem zapisu navedel, da bi usklajena strategija vodilnim ameriškim podjetjem za umetno inteligenco omogočila opraviti potrebno varnostno delo, ne da bi katero od njih izgubilo konkurenčno prednost. Po njegovih besedah bi bile za usklajevanje podjetij na določenih področjih potrebne nekatere izjeme od ameriških protimonopolnih pravil, pa tudi sodelovanje s Kitajsko.

"Če bomo močno omejili svoje zmogljivosti na področju umetne inteligence v prepričanju, da bo enako storila Kitajska, ta pa se dogovora ne bo držala, bi lahko bila umetna inteligenca tako zmogljiva, da bi ji to omogočilo geopolitično prevlado," je zapisal.

Trumpova administracija doslej ni pokazala veliko zanimanja za uporabo regulativnih pristojnosti, da bi postavila varovalke pri razvoju umetne inteligence.

— Pri pripravi so sodelovale Lynn Doan, Angela Cullen in Rebecca Smith.