OpenAI dopušča možnost upočasnitve razvoja napredne umetne inteligence

OpenAI razmišlja o upočasnitvi razvoja najnaprednejših sistemov umetne inteligence, izvršni direktor Sam Altman pa upa, da bi mu pri tem sledila tudi druga podjetja v panogi.

Altman je na internem sestanku z zaposlenimi ta teden dejal, da bi OpenAI lahko upočasnil tempo razvoja AI, morda v sodelovanju z več drugimi podjetji, ki razvijajo umetno inteligenco. Po besedah virov, ki so seznanjeni z dogajanjem, pa ni nujno, da bi se vsa podjetja s tem strinjala. Viri so govorili pod pogojem anonimnosti, saj gre za zaupne informacije.

Zaskrbljenost zaradi razvoja vse zmogljivejših sistemov umetne inteligence je v zadnjih tednih vse glasnejša. Zaposleni v nekaterih vodilnih podjetjih v panogi so javno opozarjali na tveganja, s katerimi se sooča razvoj napredne AI, kar je dodatno okrepilo razprave in negotovost tudi znotraj teh podjetij.

OpenAI in njegov tekmec Anthropic sta sicer v začetku letošnjega leta vložila zaupno dokumentacijo za morebitni vstop na borzo.

OpenAI zadeve ni želel komentirati.

Glavni znanstvenik OpenAI Jakub Pachocki je pred kratkim objavil zapis, v katerem je opozoril na nevarnosti umetne inteligence. Meni, da bi se morala podjetja, ki razvijajo AI, po potrebi uskladiti in upočasniti nadaljnji razvoj. Ob tem upa, da bi prostovoljne omejitve hitrosti razvoja postale običajna praksa, dokler ne bodo vzpostavljeni skupni varnostni standardi.

OpenAI je medtem sporočil, da je zaradi varnostnih pomislekov že upočasnil nekatere dele razvoja svojih modelov in začasno ustavil določena interna usposabljanja sistemov AI. Altman je julija povedal tudi, da se je z uradniki Bele hiše pogovarjal o potrebi po postopnejšem razvoju umetne inteligence.

V torek je raziskovalec umetne inteligence Jacob Coxon zapustil službo in oba nekdanja delodajalca, Anthropic in OpenAI, obtožil, da z dirko proti superinteligentni AI "tvegata naša življenja". V objavi na družbenih omrežjih je zapisal, da ljudje, ki razvijajo umetno inteligenco, menijo, da bi nas ta lahko "do konca desetletja vse pobila". Njegove besede so se hitro razširile po spletu in zbrale več kot 150 milijonov ogledov, opozorile pa so tudi nase pri nekaterih vidnih zakonodajalcih in drugih javnih osebnostih.

Daniel Heuer/Bloomberg

V četrtek sta dva raziskovalca, ki sta pred kratkim zapustila položaja pri podjetjih Anthropic in Google DeepMind, javno opozorila na prehiter tempo razvoja umetne inteligence. Ocenila sta, da bi morali razvijalci AI bolj transparentno govoriti o tveganjih, povezanih s to tehnologijo.

Konec julija je več kot 1.000 zaposlenih iz vseh večjih podjetij na področju umetne inteligence podpisalo peticijo, s katero so pozvali k vzpostavitvi mehanizma za upočasnitev razvoja AI. V zadnjih mesecih je več strokovnjakov, ki so se v vodilnih laboratorijih ukvarjali z varnostjo, že odstopilo.

Čeprav vodilni in zaposleni v industriji umetne inteligence že dolgo opozarjajo na eksistenčna tveganja, povezana z vse zmogljivejšimi sistemi AI, so se v zadnjem času pomisleki še okrepili. K temu so prispevala razkritja, da so agenti AI podjetja OpenAI medsebojno sodelovali pri prebijanju iz nadzorovanega okolja in vdoru v spletno stran tretje osebe.

Ta in podobni varnostni incidenti so okrepili zaskrbljenost glede kibernetskih zmogljivosti novih modelov ter pokazali, da podjetja še ne znajo vedno učinkovito preprečiti, da bi njihovi sistemi delovali nenadzorovano.