Zuckerberg: Varnost AI naj preverjajo neodvisni ocenjevalci

Glavni izvršni direktor družbe Meta Platforms Mark Zuckerberg meni, da bi morala podjetja, ki razvijajo umetno inteligenco, varnost svojih modelov preverjati tudi s pomočjo neodvisnih ocenjevalcev in svetovalcev.

"Sodelovanje z neodvisnimi ocenjevalci in svetovalci je dobra praksa v panogi," je Zuckerberg v torek zapisal na omrežju X. S tem se je pridružil vse več tehnološkim vodilnim, ki se vključujejo v razpravo o tem, kako zmanjšati tveganja, povezana z razvojem umetne inteligence.

 

 

Del predstavnikov panoge zagovarja počasnejši razvoj in več usklajevanja med podjetji. Zuckerberg pa je izpostavil drugačen pristop: Meta je razvoj orodja Muse AI upočasnila na lastno pobudo, ne da bi pred tem zahtevala, naj enako storijo tudi tekmeci.

Mark Zuckerberg. Foto:  David Paul Morris/Bloomberg

"Meta je uvedbo Muse zamaknila za več mesecev, da bi se lahko bolj posvetili varnosti," je zapisal Zuckerberg. "Nismo zahtevali, da enako storijo tudi drugi. Preprosto smo ocenili, da je to prava odločitev za uporabnike in za nas, zato smo jo vključili v svoje vsakodnevno delo."

Razprava o gospodarskih in varnostnih tveganjih umetne inteligence se je konec tedna še zaostrila. Glavni izvršni direktor Anthropic PBC Dario Amodei je v obsežnem, približno 3.800 besed dolgem eseju pozval k počasnejšemu razvoju najnaprednejših sistemov, da bi raziskovalci dobili več časa za razumevanje možnih nevarnosti.

Njegovemu pozivu sta pritrdila tudi glavni izvršni direktor OpenAI Sam Altman in vodja SpaceXAI Elon Musk, čeprav so njuna podjetja neposredni tekmeci Anthropica. Predstavnik OpenAI je ob tem dejal, da podjetje na področju varnosti umetne inteligence sodeluje z Anthropicom in Googlom, ki je del družbe Alphabet.

Zuckerberg se je s to objavo prvič vključil v najnovejšo razpravo o tem, kako omejiti tveganja, ki jih prinaša vse hitrejši razvoj umetne inteligence. Podobna vprašanja v zadnjih dneh odpirajo vodilni v tehnološki industriji in politiki po svetu.

Podobno stališče je v torek izrazil tudi glavni izvršni direktor Nvidie Jensen Huang. Po njegovem mora biti varnost sestavni del razvoja, podjetja pa morajo imeti možnost, da izdelka ne objavijo, če ocenijo, da ni dovolj varen. "Varnost je najpomembnejša. V marsičem je to prva naloga," je Huang dejal na dogodku družbe Salesforce. Obenem meni, da gre predvsem za inženirski izziv.

Huang: Varnost in hitrost se ne izključujeta

Če podjetje pride do točke, ko razvoja ne obvladuje več ali ne more zagotoviti varnosti izdelka, je po njegovih besedah čas za premor. Kljub temu Huang ne podpira uvajanja novih predpisov posebej za umetno inteligenco, saj meni, da podjetja k odgovornemu razvoju spodbuja tudi trg. "Ne potrebujemo novih zakonov in novih predpisov," je dejal. Zavrnil je tudi tezo, da se mora industrija odločati med hitrostjo in varnostjo.

"Oboje je mogoče doseči hkrati," je Huang povedal v pogovoru z glavnim izvršnim direktorjem Salesforcea Marcom Benioffom. Po njegovem morajo podjetja tempo prilagajati tako dolgo, dokler niso prepričana, da na trg pošiljajo izdelek, ki je dovolj varen in ga bodo uporabniki sprejeli.

Na isti konferenci Salesforcea je bolj umirjen ton ubral tudi glavni izvršni direktor OpenAI Sam Altman. Dejal je, da verjame, da lahko podjetja umetno inteligenco razvijajo varno, ne da bi pri tem povzročila večjo škodo ljudem.

"Zelo sem prepričan, da smo tako v našem podjetju kot v celotni panogi sposobni to početi varno," je dejal Altman.

Čeprav OpenAI pri varnostnih vprašanjih sodeluje z Anthropicom in Googlovim laboratorijem DeepMind, Altman meni, da bi morala biti podjetja sposobna varnost svojih modelov izboljševati tudi samostojno.

"Razočaran sem nad tem, kako je bila ta razprava predstavljena," je dejal.