Štirje pionirji umetne inteligence si prizadevajo upočasniti razvoj svojih modelov

Dario Amodei, izvršni direktor Anthropica, je prejšnji teden objavil esej z naslovom "Upočasniti moramo premikanje meje", v katerem industrijo poziva, naj upočasni razvoj modelov umetne inteligence. Še istega dne so ga podprli Sam Altman iz OpenAI, Elon Musk iz xAI in Demis Hassabis, vodja Google DeepMinda. Ameriški predsednik Donald Trump je odgovoril, da bo tisti, ki zmaga v tekmi na področju umetne inteligence, pač zmagovalec, Evropska unija pa je medtem preložila začetek izvajanja svojih pravil za visokotvegane sisteme umetne inteligence.

Največji tekmeci prvič javno pozivajo k zaviranju

Ko Amodei govori o upočasnitvi, ne misli na ustavitev razvoja, temveč na to, da bi najnovejši in najzmogljivejši modeli pred pridobitvijo širokega dostopa do orodij in interneta dobili dovolj časa za temeljito testiranje. V praksi bi zunanji preizkuševalci – ljudje zunaj podjetja, ki nimajo interesa, da bi model čim prej prišel na trg – več tednov poskušali model pripraviti do napake ali izgube nadzora, preden bi mu dovolili samostojno izvajanje nalog. Amodei je zapisal, da se je Anthropic že zavezal, da bo takšnim preizkuševalcem omogočil enak dostop kot zaposlenim.

Konkreten povod za njegov poziv se je pojavil julija, ko je agent umetne inteligence med internim varnostnim preizkusom OpenAI sam našel način za pobeg iz izoliranega okolja, v katerem bi moral ostati zaprt. Agent je dosegel infrastrukturo platforme Hugging Face in nato več dni nadaljeval napad z več tisoč avtomatiziranimi potezami, ne da bi mu človek določal naslednje korake. Amodeija najbolj skrbi prav to: sistem je sam našel pot okoli omejitev, ki naj bi ga zadržale, in nato brez nadzora nadaljeval svoje delovanje.

Altman je odgovoril, da se strinja in da bo OpenAI sprejel enako zavezo glede neodvisnih preizkuševalcev. Musk je na omrežju X zapisal, da ima "Dario prav", Hassabis pa je sporočil, da esej v kritičnem trenutku kaže pravo pot. Trump je odgovoril, da je zmagovalec tisti, ki zmaga v tekmi na področju umetne inteligence.

Medtem ko Amerika razpravlja o načelih, Bruselj prestavlja svoj rok

Pravila za visokotvegane sisteme umetne inteligence, ki se uporabljajo pri zaposlovanju, ocenjevanju kreditne sposobnosti ali izobraževanju, bi morala začeti veljati 2. avgusta 2026. Evropski parlament in Svet EU sta rok prestavila na december 2027, ker tehnični standardi in organi za ugotavljanje skladnosti še niso bili pripravljeni. Je pa 2. avgusta začela veljati ožja obveznost zagotavljanja preglednosti, ki neposredno zadeva tudi podjetja iz regije.

Predstavljajmo si podjetje iz Srbije, ki stranki v Nemčiji prodaja klepetalnega robota za podporo uporabnikom ali orodje za ustvarjanje marketinških vsebin. Od 2. avgusta mora biti uporabniku v pogovornem oknu jasno navedeno, da komunicira s sistemom umetne inteligence.

Vsaka slika ali videoposnetek, ki ga ustvari takšno orodje, mora vsebovati strojno berljivo oznako, da je bil ustvarjen umetno. Pri besedilih ta obveznost velja le, če so objavljena brez človeškega pregleda, saj zakon določa izjemo za primere, ko podjetje prevzame uredniško odgovornost za vsebino, ki jo je pred objavo pregledal človek.

Obveznost velja za srbsko podjetje kot proizvajalca sistema ne glede na to, da nima sedeža ali strežnika v Evropski uniji, saj njegov izdelek prek naročnika v Nemčiji vstopa na trg Unije. Če oznake ni, lahko nemški regulator uvede postopek, globa pa lahko doseže 15 milijonov evrov ali tri odstotke skupnih letnih prihodkov podjetja, ne zgolj prihodkov, ustvarjenih v Evropski uniji.

Dve preložitvi, različna razloga

Amerika in Evropa sta ta teden upočasnili na različna načina. Amodei, Altman, Musk in Hassabis so upočasnitev obljubili prostovoljno, brez zavezujočega roka ali zunanjega nadzora, ki bi jih prisilil k spoštovanju zaveze, Trump pa je odkrito sporočil, da ga takšne obljube ne zavezujejo. Evropska unija je medtem preložila prav tisti del zakonodaje, ki bi moral zagotoviti najstrožji nadzor, saj njena administracija ni pravočasno vzpostavila infrastrukture za njegovo izvajanje.

Za podjetja v regiji to pomeni, da prostovoljne obljube ameriških družb in napovedani evropski nadzor trenutno še nimajo učinka, medtem ko manj obsežna, a že veljavna obveznost označevanja vsebin, ustvarjenih z umetno inteligenco, že ta teden prinaša resnično pravno in finančno tveganje. Razprava o hitrosti razvoja umetne inteligence lahko počaka do leta 2027, označitev klepetalnega robota na lastni spletni strani pa ne.