Zaposleni pri Google DeepMindu ob odhodu opozoril: Umetna inteligenca bi lahko "pobila vse"

Raziskovalec umetne inteligence, ki je pred kratkim zapustil Google DeepMind, opozarja, da človeštvu zmanjkuje časa za preprečitev resne škode, ki bi jo lahko povzročila umetna inteligenca. Gre za še enega zaposlenega, ki je javno izrazil zaskrbljenost zaradi smeri razvoja tehnologije.

"Pri Googlu sem razvoj umetne inteligence spremljal od blizu. Tudi sam sem zelo zaskrbljen nad smerjo, v katero gre ta tehnologija. Resno verjamem, da ima umetna inteligenca potencial, da nas vse ubije," je v ponedeljek na omrežjih X in LinkedIn zapisal Bilal Chughtai.

Dodal je, da se je pri družbi Alphabet ukvarjal z varnostjo umetne inteligence in usklajevanjem sistemov z interesi ljudi. Google se na prošnjo za komentar ni takoj odzval.

 

 

Chughtai je še eden od raziskovalcev umetne inteligence, ki so v zadnjih dneh javno opozorili na resna tveganja, povezana s hitrim razvojem te tehnologije. V ospredju njihovih skrbi je predvsem možnost, da bi zmogljivosti sistemov umetne inteligence postale vse manj usklajene s človeškimi interesi, in bi lahko nekoč predstavljale celo eksistenčno grožnjo.

V začetku meseca je Jacob Coxon, razvijalec umetne inteligence, zapustil službo in nekdanja delodajalca, Anthropic in OpenAI, obtožil, da z življenji ljudi "kockata", ker tekmujeta v razvoju superinteligentne umetne inteligence.

Konec tedna je izvršni direktor Anthropica Dario Amodei objavil 3.800 besed dolg esej, v katerem je pozval k počasnejšemu razvoju najnaprednejših sistemov. Po njegovem bi s tem zmanjšali tveganje, da bi ti sistemi ušli izpod človeškega nadzora in povzročili katastrofalne posledice. Njegovo opozorilo sta v redkem prikazu soglasja podprla tudi izvršni direktor OpenAI Sam Altman in vodja SpaceXAI Elon Musk.

Chughtai kljub temu ostaja optimističen. Prepričan je, da je varen razvoj umetne inteligence še vedno mogoč, zato bo temu področju namenjena tudi njegova nova poklicna pot. Po podatkih na njegovem profilu LinkedIn zdaj dela za neprofitno organizacijo BlueDot Impact, ki ljudi z različnih področij izobražuje o varnosti umetne inteligence.