ZDA odobrile uporabo spornega modela mythos 5 podjetja Anthropic

Anthropic je dobil odobritev ZDA za ponovno vzpostavitev dela dostopa do svojega zmogljivega modela umetne inteligence mythos 5, potem ko je razrešil pomisleke Trumpove administracije glede morebitnih groženj te tehnologije nacionalni varnosti.

''Anthropic je sodeloval z ameriško vlado pri obravnavanju tveganj, povezanih z modeli,'' je minister za trgovino Howard Lutnick zapisal v pismu glavnemu direktorju za računalništvo podjetja, ki ga je videl Bloomberg News. ''Ta prizadevanja so prinesla pomemben napredek,'' je zapisal in dejal, da bi model lahko izdali ''določenim zaupanja vrednim partnerjem''.

Dovoljenje je omililo spopad, ki je izbruhnil pred dvema tednoma, ko je vlada nenadoma prepovedala podjetju Anthropic, da tujim državljanom omogoči dostop do mythosa 5 in sorodnega modela fable 5 zaradi strahu, da bi se lahko zaobšli varnostni mehanizmi. Odredba je podjetje spodbudila, da je onemogočilo ves globalni dostop do obeh naprednih sistemov in sprožilo intenzivne pogovore o rešitvi.

''V samo dveh tednih smo skrbno delali, da bi zagotovili, da Amerika ostane vodilna na svetu na področju umetne inteligence, hkrati pa varuje našo varnost,'' je dejal tiskovni predstavnik ministrstva za trgovino Benno Kass.

Pismo podjetja Commerce ne omenja nobene spremembe omejitev uporabe modela fable 5.

''Od ameriške vlade smo prejeli obvestilo, da se lahko mythos 5, naš najmočnejši model kibernetske varnosti, prerazporedi na majhno skupino kibernetskih podjetij in ponudnikov infrastrukture,'' je Anthropic dejal v izjavi. ''Prizadevamo si, da bi odobrili nabor ponudnikov in jim čim prej obnovili dostop do mythosa 5. Veseli nas ta napredek in še naprej sodelujemo z vlado, da bi razširili dostop do mythosa 5 in fable 5 ponovno omogočili za splošno uporabo.''

Ni jasno, katere korake je moral Anthropic sprejeti, da bi zadostil vladnim pomislekom, da je mogoče obiti varovalne sisteme na naprednih modelih. Podjetje pričakuje, da se bodo pogovori z vlado nadaljevali čez vikend, saj si prizadeva kmalu ponovno vzpostaviti dostop do fablea 5, je povedala oseba, seznanjena z zadevo, ki je želela ostati anonimna, ker so pogovori zasebni.

Podjetje sodeluje tudi z vlado pri oblikovanju političnega okvira za reševanje takšnih situacij v prihodnosti, je povedala oseba.

Anthropic je v objavi na blogu, v kateri je napovedal onemogočanje obeh sistemov, nasprotoval odločitvi vlade o uvedbi nadzora izvoza. ''Če bi se ta standard uporabljal v celotni panogi, menimo, da bi to v bistvu ustavilo vse uvedbe novih modelov za vse ponudnike modelov.''

V tej objavi je Anthropic opozoril, da meni, da ''popolna odpornost na poskuse vdorov trenutno ni mogoča za nobenega ponudnika modelov''.

Vladna odločitev, da omeji dostopnost modelov Anthropic, je odmevala tudi v panogi umetne inteligence, zlasti pri konkurenčnem zagonskem podjetju OpenAI, ki je pod pritiskom Trumpove administracije omejilo izdajo zmogljivega novega modela umetne inteligence GPT-5.6. OpenAI je v petek sporočil, da bo izbranim partnerjem, ki jih je odobrila ameriška vlada, predstavil predogledno različico, preden jo bo v prihodnjih tednih na zahtevo administracije dal na uporabo.

Širši spor

Spor glede mythosa 5 in fablea 5 je zaznamoval najnovejši spopad med Anthropicom in Trumpovo administracijo. Anthropic se že mesece prepira s Pentagonom zaradi dodatnih varovalnih ovir, ki jih je podjetje s sedežem v San Franciscu zahtevalo za vojaško uporabo svojih orodij umetne inteligence. Potem ko so se pogovori o pogodbi prekinili, je obrambno ministrstvo marca podjetje razglasilo za tveganje v dobavni verigi in se loteva iskanja drugih ponudnikov umetne inteligence za oborožene sile.

Zasebno podjetje Anthropic, ki se že dolgo pozicionira kot odgovornejši razvijalec umetne inteligence kot njegovi tekmeci, je svoj model mythos prvič delilo aprila z omejeno skupino podjetij in institucij ter opozorilo, da je zaradi ranljivosti v kibernetski varnosti preveč tvegan za širšo distribucijo.

 

V začetku tega meseca je podjetje izdalo fable 5 kot prvo javno dostopno različico svojega modela razreda mythos, vendar z varovalkami, namenjenimi zajezitvi celotnega nabora njegovih kibernetskih zmogljivosti. Fable 5 ne more odgovarjati na določene vrste poizvedb, vključno s tistimi, povezanimi s kibernetsko varnostjo in biologijo. V teh primerih je Anthropic sporočil, da bo njihov klepetalni robot claude usmerjal odgovore prek drugega modela, imenovanega opus 4.8.

Z nadaljnjim omejevanjem modela fable 5 je zvezna vlada nakazala, da ostaja previdna pri tem, da bi tehnologija, na kateri temeljijo ti modeli, postala široko dostopna, tudi z omejitvami, ki jih je Anthropic dodal pred splošno izdajo.

Mythos 5, ki je različica fable 5 brez nekaterih zaščitnih ukrepov, naj bi bil na voljo za uporabo omejeni skupini institucij. Gre za pobudo, imenovano Project Glasswing, do katere je mogoče dostopati le s povabilom. V začetku tega meseca je imelo približno 200 podjetij dostop do mythosa, vključno z Applom, Googlom, Cisco Systems, Nvidiio in Microsofttom.

Vpliv na industrijo

Odredba o prepovedi najnovejših modelov Anthropica je predstavljala najpomembnejši poseg ameriške vlade v delovanje podjetja na področju umetne inteligence doslej in je izpostavila nove pomisleke glede varnosti najsodobnejših modelov. Za Anthropic je predstavljala nov izziv nekaj tednov po tem, ko je podjetje zaupno vložilo zahtevo za prvo javno ponudbo delnic, pri čemer so najnovejša vrednotenja presegla 900 milijard dolarjev.

V nedavnih pogajanjih so sodelovali višji vodstveni delavci Anthropica, vključno s soustanoviteljem Tomom Brownom, ki se je v zadnjih dneh srečal z Lutnickom in drugimi visokimi uradniki administracije, so za Bloomberg povedali ljudje, seznanjeni s pogovori. Ameriški uradniki so za Anthropic povedali, da bodo omejitve odpravljene, ko bodo vladni varnostni pomisleki obravnavani, so povedali viri, ki so govorili pod pogojem anonimnosti, ker razprave niso bile javne.

V pogovorih s Commerceom o fable 5 in mythos 5 je izvršni direktor Anthropica Dario Amodei po navedbah virov prevzel pasivno vlogo in pomagal zmanjšati trenja med stranema.