Kar koli se je dogajalo za zaprtimi vrati med Anthropicom PBC in ameriško vlado, je očitno zaleglo. Omejitve dostopa tujih uporabnikov do modelov umetne inteligence Fable 5 in Mythos 5 so bile odpravljene, potem ko je Anthropic naslovil varnostne pomisleke Trumpove administracije. Za zagonsko podjetje, ki že leta gradi ugled na vlaganjih v varnost, je bila prvotna prepoved še posebej neprijetna. Še bolj pa skrbi, da dogovori, s katerimi si je podjetje zagotovilo odpravo omejitev, ostajajo večinoma neznani.
Prepoved je sledila opozorilu družbe Amazon.com Inc., ki je administraciji sporočila, da bi bilo mogoče obiti nekatere varovalke pri modelu Fable. Anthropic je zdaj razvil rešitev, ki takšen obvod preprečuje, podprl pa jo je Center za standarde in inovacije na področju umetne inteligence (CAISI) pri ameriškem ministrstvu za trgovino. Pri tem uporablja tako imenovane klasifikatorje, manjše sisteme umetne inteligence, ki prepoznajo zahteve, povezane s prepovedanimi nalogami na področju kibernetske varnosti. Podjetje poleg osnovnega opisa delovanja rešitve ni razkrilo več podrobnosti o uvedenih spremembah.
Kaj pa prihodnji sistemi umetne inteligence, ki bi lahko bili nevarni, če bi jih kdo zlorabil? Zdi se, da sta Anthropic in ameriška vlada vsaj okvirno dorekla tudi to vprašanje. Ameriški minister za trgovino Howard Lutnick je dejal, da se je podjetje zavezalo k sodelovanju pri oblikovanju "protokolov in standardov" za prihodnje modele.
Anthropic jih razvija tudi skupaj z drugimi tehnološkimi podjetji, med drugim z Amazon.com Inc. in Microsoft Corp. Takšna pravila bi morala biti javno predstavljena že med nastajanjem, ne šele, ko bodo dokončno sprejeta in javnost nanje ne bo mogla več vplivati.
Dolgo pričakovani varnostni standardi za modele umetne inteligence bi industriji koristili. To je vsaj pozitivna plat zapleta, ki ga je Anthropicu povzročila izvozna prepoved. Podjetje je tveganja že prej zaznavalo proaktivno in CAISI omogočalo dostop do modelov še pred njihovo izdajo. Po navedbah osebe blizu podjetja pa bo zdaj sodelovanje še poglobilo: zaposlene bo pošiljalo v prostore CAISI, agenciji pa ponudilo tudi računalniške zmogljivosti in lastne varnostne preizkuševalce za podrobnejše analize. Kar je regulatorjem ponujalo doslej, bo zdaj očitno nadgradilo.
Pri nepreglednosti dogovora z ameriško vlado velja dodati, da številni izvozni nadzori in dogovori, povezani z nacionalno varnostjo, ostanejo zaupni. Nenavadno pa je, da je šlo tokrat za improvizirano, od primera do primera oblikovano javno prepoved novega produkta podjetja, ki je bilo hkrati v zaostrenih odnosih z vlado. Prepoved je bila sporočena z zasebnim pismom, trajala je 18 dni, nato pa je bila po pogajanjih za zaprtimi vrati odpravljena.
Bloomberg
Prihodnji okvir bi moral biti najmanj javno dostopen. Sicer javnost ne more vedeti, ali se modeli umetne inteligence presojajo na podlagi legitimnih razlogov nacionalne varnosti ali zaradi političnega favoriziranja. S tem se, kot kaže, strinja celo največji Anthropicov tekmec OpenAI. Ko je svoj najnovejši model GPT-5.6 ponudil le ozkemu krogu partnerjev, ki jih je odobrila vlada, je izvršni direktor Sam Altman dejal, da mu ni všeč, da regulatorji "izbirajo stranke".
Čeprav bi bil tak korak radikalen, bi bilo bolj smiselno varnostno testiranje vodilnih modelov prepustiti britanskemu Inštitutu za varnost umetne inteligence (AISI). Ta ima precej več sredstev in več inženirskega kadra kot ameriški CAISI. Poleg tega bi britanska agencija zmanjšala tveganje, da bi si podjetja skušala pridobiti politično naklonjenost pri tistih, ki jih nadzirajo.
Ključno je, da so standardi javni. Podjetja, ki uporabljajo modele Anthropica in OpenAI ter so že vse bolj pozorna na stroške, si namreč ne želijo še dodatne negotovosti glede morebitnega "kill switcha" (slovensko 'stikala za izklop'). Prepoved za Anthropic je močno vznemirila evropska podjetja in okrepila pozive k razvoju lastne umetne inteligence, da ta ne bi bila odvisna od ameriških modelov, do katerih bi bil dostop lahko brez opozorila nenadoma prekinjen.
Mogoče je, da so bila Anthropicova prikrita popuščanja predvsem način, kako je Bela hiša prikrila lasten umik, potem ko je tehnološka industrija v zadnjih dveh tednih izrazila vse več pomislekov. Več kot sto strokovnjakov za kibernetsko varnost je podpisalo odprto pismo, v katerem so opozorili, da je bila izvozna prepoved pretirana. Tudi več tehnoloških direktorjev in vlagateljev je javno svarilo, da bi takšna odločitev kitajskim razvijalcem umetne inteligence dala dodaten čas za povečanje tržnega deleža.
Ne glede na razlog upravljanje umetne inteligence ne bi smelo biti stvar improvizacije, temveč jasnih in javno dostopnih standardov. Po spremembi ameriške odločitve lahko Anthropic slavi izdajo svojega najnaprednejšega produkta. Preostala industrija pa bi morala ta trenutek izkoristiti za zahtevo po večji jasnosti glede tega, kaj bi lahko sprožilo novo blokado. V nasprotnem primeru se bo negotovost, ki že zdaj pritiska na trg umetne inteligence, le še poglobila.
.webp){kind=icon}
