Vodilni v svetu umetne inteligence tvegajo spor z Wall Streetom in Trumpom zaradi varnosti

Podjetji bosta morali pri prizadevanjih za upočasnitev razvoja umetne inteligence računati na močan odpor tehnološkega sektorja, finančnih trgov in Trumpove administracije. Vsi trije bodo namreč verjetno nasprotovali občutnejšemu zaviranju razvoja.

Anthropic in OpenAI, ki razvijata najzmogljivejše sisteme umetne inteligence na svetu, napovedujeta ukrepe za nekoliko umiritev tekme v razvoju najnaprednejših modelov. Njihov cilj je bolje razumeti tveganja, ki jih prinaša tehnologija, še posebej po vrsti varnostnih incidentov.

Izvršni direktor Anthropic Dario Amodei je v soboto objavil obsežno pismo, dolgo 3.800 besed, pod katerim sta se strinjala tudi izvršni direktor OpenAI Sam Altman in izvršni direktor SpaceXAI Elon Musk. V njem opozarja, da bi bilo treba razvoj najnaprednejših sistemov upočasniti, da umetna inteligenca ne bi ušla človeškemu nadzoru in povzročila katastrofalne škode.

Amodei je v svojem eseju poudaril, da upočasnitev razvoja zmogljivosti umetne inteligence ne bi nujno pomenila tudi manjših naložb ali počasnejše rasti. Kljub temu bi vlagatelji vsako resnejšo prekinitev ali zamik pri razvoju najnaprednejših modelov verjetno sprejeli zelo slabo. Na razcvetu umetne inteligence namreč temelji pričakovanje, da bo tehnološki sektor v razvoj infrastrukture vložil stotine milijard dolarjev. Wall Street obenem računa na morebitni rekordni javni ponudbi delnic Anthropic in OpenAI, njun uspeh pa je tesno povezan z nadaljevanjem razvoja novih prebojnih tehnologij umetne inteligence.

Dario Amodei. Foto: Jason Henry/Bloomberg

Med varnostjo in milijardami naložb

Prvi odziv trgov je bil viden že v ponedeljek zjutraj. Delnici Samsung Electronics in SK Hynix, ki sta med ključnimi dobavitelji infrastrukture za umetno inteligenco, sta se v Seulu pocenili za več kot štiri odstotke, delnica SoftBank Group, vlagatelja v OpenAI, pa je izgubila 13 odstotkov. Morebitna upočasnitev razvoja bi lahko prizadela tudi proizvajalce čipov, kot je Nvidia, ki jim koristijo vse večje naložbe v procesorje za razvoj in uporabo novih generacij modelov umetne inteligence. Posledice bi lahko občutila tudi Amazon in Microsoft, ki Anthropic in OpenAI zagotavljata računalniške zmogljivosti v oblaku.

"Ti dve podjetji in njuni načrti imata ogromen vpliv na celoten tehnološki sektor," je dejal Mark Mahaney, analitik pri Evercore ISI. "Če bi občutno zmanjšali sredstva za raziskave in razvoj, zaposlovanje ali kapitalske naložbe, bi to lahko imelo precejšen vpliv na finančne trge."

Vsak poskus zaviranja razvoja bi lahko naletel tudi na odpor ameriškega predsednika Donalda Trumpa. Hiter razvoj umetne inteligence je namreč eden od temeljev njegove gospodarske politike, saj ga vidi kot pomemben vir novih delovnih mest. Hkrati opozarja, da morajo ZDA na področju umetne inteligence ostati pred Kitajsko, če želijo ohraniti svojo nacionalno varnost.

"Ko govorimo o 'upočasnitvi', s tem ne mislimo na 'ustavitev'," je Altman v nedeljo zapisal na omrežju X. "Pomoč vlade bomo potrebovali predvsem pri usklajevanju na mednarodni ravni. A najprej moramo sami narediti vse, kar je v naši moči."

Trump ne želi zavirati tekme z umetno inteligenco

V nedeljo je Trump možnost dodatnih omejitev razvoja umetne inteligence zavrnil kot pretirano idejo in ponovil svoje stališče, da morajo ZDA kljub vse večjemu nasprotovanju domače javnosti gradnji podatkovnih centrov, potrebnih za razvoj te tehnologije, z razvojem nadaljevati.

"Na področju umetne inteligence smo pred Kitajsko. Smo tehnološko najnaprednejša država na svetu in iskreno želim, da tako tudi ostane, saj bo tisti, ki bo zmagal v tekmi z umetno inteligenco, zmagovalec," je Trump povedal novinarjem ob robu golfskega turnirja Irish Open. "Lahko postavimo varovalke, lahko naredimo to ali ono. Toda menim, da je veliko zelo negativnih sil, ki v razpravo vnašajo stvari, ki tja ne sodijo."

Zaskrbljenost zaradi eksistencialnih tveganj, povezanih z umetno inteligenco, je prejšnji teden prvič močno odjeknila tudi v širši javnosti. K temu je prispeval odmeven odhod Jacoba Coxona iz Anthropica, ki je podjetja s področja umetne inteligence obtožil, da pri razvoju vse zmogljivejših sistemov "tvegajo naša življenja". Njegovo objavo ob odhodu so podprli številni drugi raziskovalci umetne inteligence, ki so pozvali k upočasnitvi razvoja tehnologije, za katero je Coxon dejal, da bi nas lahko "do konca desetletja vse pobila".

Preden je Coxonovo sporočilo odjeknilo v javnosti, so k ukrepanju proti najresnejšim tveganjem umetne inteligence že pozivali tudi nekateri člani ameriškega kongresa. Senator Bernie Sanders, neodvisni senator iz Vermonta, ki se pri glasovanjih pogosto pridružuje demokratom, je predlagal prepoved tako imenovane superinteligentne umetne inteligence. Drugi zakonodajalci so omenjali tudi možnost "stikala za izklop", s katerim bi bilo mogoče sisteme umetne inteligence v skrajnem primeru ustaviti. A možnosti, da bi globoko razdeljeni kongres manj kot dva meseca pred vmesnimi volitvami dosegel dogovor o pomembnejši zakonodaji, so majhne.

V predstavniškem domu je predsednik Mike Johnson pozval k tesnejšemu sodelovanju tehnoloških podjetij in vlade pri oblikovanju varovalk za umetno inteligenco. Podjetjem je pri tem sporočil, da imajo "odgovornost do družbe, da zagotovijo varnost svojih izdelkov". Vodja demokratov v predstavniškem domu Hakeem Jeffries pa je v oddaji This Week na ABC povedal, da se bodo demokrati v torek zjutraj sestali in razpravljali o možnih ukrepih na področju umetne inteligence.

Tudi na Wall Streetu, kjer je v igri več milijard dolarjev tehnoloških naložb, se vse glasneje pojavljajo opozorila o tveganjih, ki jih prinaša hiter razvoj umetne inteligence. Vlagatelje namreč skrbi možnost, da bi šlo pri tej tehnologiji kaj hudo narobe in bi posledice občutil velik del družbe. Greg Jensen, glavni naložbeni direktor družbe Bridgewater Associates in eden prvih vlagateljev v OpenAI in Anthropic, pravi, da ga hiter napredek umetne inteligence vse bolj vznemirja. Po njegovem svetu zmanjkuje časa, da bi še lahko preprečil najhujše posledice.

"Dokler umetna inteligenca ne bo začela ubijati ljudi, žal zgodovina kaže, da verjetno ne bomo ukrenili ničesar," je Jensen povedal v Bloombergovem podkastu Odd Lots. "To se bo zgodilo. Veliko bolje bi bilo, če bi se s tem začeli ukvarjati, še preden bo prepozno."

Amodei je v eseju izpostavil dva ključna razloga, zaradi katerih meni, da je treba razvoj umetne inteligence upočasniti že zdaj. Prvi je vse večja sposobnost sistemov, da samostojno izboljšujejo svoje zmogljivosti, drugi pa julijski incident, ko je skupina agentov umetne inteligence podjetja OpenAI neopazno sodelovala pri vdoru v spletno stran družbe Hugging Face.

Elon Musk. Foto: Stefani Reynolds/Bloomberg

Vodja Anthropica je napovedal, da bo podjetje odprlo vrata neodvisnim zunanjim ocenjevalcem, ki bodo imeli dostop do novih sistemov na ravni zaposlenih in jih bodo lahko preverili še pred njihovo javno objavo. Prav takšen sistem preverjanja je osrednji predlog njegovega eseja. Izvršni direktor OpenAI Sam Altman je dejal, da mu je zamisel všeč in da jo namerava uvesti tudi v svojem podjetju. Elon Musk je ocenil, da bi bil medsebojni strokovni pregled med vodilnimi razvijalci umetne inteligence "vreden izvedbe".

Amodei je ob tem poudaril, da bi morala imeti pri nadzoru umetne inteligence pomembno vlogo tudi država. S tem je ponovil svoje prejšnje stališče, da bi morali biti najnaprednejši modeli umetne inteligence pred uporabo obvezno podvrženi državnemu varnostnemu preverjanju.

"Regulacija javnosti in njenim izvoljenim predstavnikom omogoča, da sodelujejo pri odločanju, hkrati pa omejuje, kaj lahko počnejo zasebna podjetja," je izvršni direktor Anthropica povedal v intervjuju, ki so ga v nedeljo predvajali na televiziji CBS v oddaji Sunday Morning.

Dodatna regulacija je pod Trumpovo administracijo malo verjetna, saj je ta od njegove vrnitve v Belo hišo lani do umetne inteligence večinoma zavzela precej zadržan pristop. Trump je junija podpisal izvršni ukaz o kibernetski varnosti na področju umetne inteligence, ki podjetjem prepušča odločitev, ali želijo svoje nove modele pred uporabo predložiti vladnemu preverjanju. V začetku tega meseca pa je administracija prepričala države skupine G20, da podprejo načela, ki zagovarjajo bolj zadržan pristop k regulaciji umetne inteligence in drugih nastajajočih tehnologij.

Na Amodeijev poziv se je odzval tudi David Sacks, nekdanji Trumpov svetovalec za umetno inteligenco, ki zdaj skupaj z drugim predseduje njegovemu svetu za tehnološko svetovanje. Po njegovem podjetja s področja umetne inteligence za upočasnitev razvoja ne potrebujejo dovoljenja vlade, temveč se lahko preprosto odločijo, da bodo ravnala odgovorno.

"Nehajte se pretvarjati, da za to potrebujete dovoljenje kogar koli drugega," je Sacks, sicer vlagatelj tveganega kapitala, zapisal na omrežju X. "Najlažji način, da ne razvijete superinteligence, je, da se dogovorite, da je ne boste. Če boste kot pogoj za to zahtevali regulativni okvir, ki vam ustreza, bo to videti kot izsiljevanje javnosti in političnega sistema."

Boj za nadzor nad umetno inteligenco

Tako Anthropic kot OpenAI se pripravljata na vstop na borzo. Altman je v sobotnem intervjuju za revijo Fortune dejal, da so nova vprašanja glede varnosti eden od razlogov, zaradi katerih podjetje prve javne ponudbe delnic ne namerava izvesti pred prihodnjim letom. Anthropic naj bi po navedbah vira, ki je seznanjen z načrti podjetja, kotiral na borzi Nasdaq, vendar še ni jasno, ali bodo Amodeijeva opozorila vplivala na njegove načrte. Po poročanju Financial Timesa je podjetje vlagateljem sporočilo, da naj bi bilo v tem četrtletju dobičkonosno.

Ob tako ostri konkurenci med Anthropicom, OpenAI in SpaceXAI, ki jim za vrat dihajo tudi kitajski tekmeci, pa ostaja vprašanje, koliko prostora bo sploh zaostalo za dodatne omejitve in varnostne preglede. Kitajska tehnološka podjetja namreč za zdaj ne kažejo, da bi nameravala stopiti na zavoro. Z vrsto novih modelov, predstavljenih letos, so občutno zmanjšala prednost ZDA, podjetja, kot sta DeepSeek in Z.AI Co., pa pridobivajo nova sredstva, s katerimi želijo razvoj še pospešiti.

 

Mahaney iz Evercore ISI ne pričakuje, da bi ameriška podjetja občutneje upočasnila razvoj umetne inteligence. Po njegovem tudi morebitni varnostni pregledi najnaprednejših modelov, ki so trenutno v razvoju, na rast prihodkov skoraj ne bi vplivali.

Podobno skeptični so tudi drugi predstavniki Silicijeve doline in Wall Streeta, ki dvomijo, da bodo ameriška podjetja Amodeijeve besede res prevedla v konkretne ukrepe. Demis Hassabis, glavni znanstvenik pri Alphabetu in soustanovitelj Google DeepMinda, je v soboto na omrežju X zapisal, da je "smer prava", vendar bo treba podrobnosti še doreči. Satya Nadella, izvršni direktor Microsofta, je medtem podprl "premišljen tempo" razvoja umetne inteligence in napovedal, da bo Microsoft v ponedeljek objavil lastna pravila za razvoj in uporabo modelov umetne inteligence.

Analitiki in vodilni v zagonskih podjetjih opozarjajo tudi na nekoliko ironičen vidik morebitne regulacije. Če bi veljale enake omejitve za vse, bi od njih lahko največ pridobila prav vodilna igralca Anthropic in OpenAI, saj bi se konkurentom še težje približati. "Več kot je regulacije v tem trenutku, težje bodo druga podjetja konkurirala Anthropicu in OpenAI," je dejal Gil Luria, analitik pri DA Davidson.

Luria pa želi videti tudi konkretne poteze, ne le besed. "Če Anthropic preloži prvo javno ponudbo delnic ali napove, da prihodnjih šest mesecev ne bo izvajal predtreniranja modelov, bom morda njihove besede vzel nekoliko bolj resno," je dejal.