Vsi se bojijo umetne inteligence, vendar tveganja dezinformacij vzbujajo veliko več skrbi kot apokaliptični scenariji.
Januarja 2015 je novoustanovljena organizacija z imenitnim imenom Inštitut za prihodnost življenja (angl. Future of Life Institute – FLI) strokovnjake s področja umetne inteligence povabila, da preživijo podaljšan konec tedna v San Juanu v Portoriku in pripravijo načrt za to področje. Dokumenti, ki so jih tam pripravili, so bili napisani v precej optimističnem tonu. V odprtem pismu so strokovnjaki podčrtali, da je težko natančno napovedati prihodnji vpliv umetne inteligence, in navedli nekaj potencialno disruptivnih posledic. Ob tem so dodali, da "izkoreninjenje bolezni in revščine ni nemogoče".
Odprto pismo, ki ga je FLI objavil 29. marca letos, je drugačno. Skupina strokovnjakov je opozorila, da laboratoriji za umetno inteligenco "brez nadzora tekmujejo v dirki za razvoj in uporabo vse močnejših digitalnih umov, ki jih nihče, niti njihovi ustvarjalci, ne morejo razumeti, predvideti ali zanesljivo nadzorovati". Pozvali so k takojšnji ustavitvi najnaprednejših raziskav umetne inteligence in zbrali na tisoče podpisov podpore, tudi številnih uglednih osebnosti. O pozivu so poročali tudi številni uveljavljeni mediji.
Za vse, ki skušajo razumeti trenutno navdušenje nad umetno inteligenco, je bilo pismo poučno na več ravneh. Je nazoren primer tega, kako se pogovori o naprednih tehnologijah lahko izjemno hitro in nepričakovano spreminjajo.
"Razpoloženje v Portoriku leta 2015 je bilo pozitivno in kolegialno. Takrat ni bilo velikih podjetij, ki bi tekmovala med seboj," pravi Anthony Aguirre, podpredsednik FLI in sekretar upravnega odbora, ki se je udeležil konference in sodeloval pri pripravi letošnjega poziva. Če se ozremo v preteklost, se nam zdi tveganje, da bi sebične tehnološke družbe želele prevladovati na tem področju, logično. Toda ta skrb v dokumentih iz leta 2015 ni bila izražena. Prav tako v njih ni omenjen strah pred širjenjem dezinformacij, ki ga danes tehnološki strokovnjaki izpostavljajo kot eno najhujših kratkoročnih posledic uvedbe klepetalnih robotov.
Potem je prišel odziv na pismo iz prejšnjega meseca. Predvidljivo so se odzvala vodilna podjetja na področju umetne
inteligence, kot so OpenAI, Google, Meta Platforms in Microsoft, ki niso pokazala pripravljenosti, da bi zaradi tega spremenila svojo prakso. FLI se je soočil tudi z negativnimi odzivi številnih uglednih strokovnjakov za umetno inteligenco. Deloma zaradi povezav s kontroverznim gibanjem učinkovitega altruizma ter Elonom Muskom, njihovim donatorjem in svetovalcem.
Andrew Harrer/Bloomberg
Če izvzamemo morebitna nesoglasja v Silicijevi dolini, kritiki ocenjujejo, da je FLI povzročil veliko škodo – ne zaradi izražanja pomislekov, ampak ker se je osredotočil na napačne. V pismu gre za nedvoumno eksistencialno grožnjo, ki je ni mogoče spregledati, saj izrecno omenja možnost, da bi ljudje izgubili nadzor nad civilizacijo, ki smo jo zgradili. Strah pred računalniško superinteligenco v tehnoloških krogih ni nov, vendar je razširjena tudi težnja po močnem precenjevanju zmogljivosti katere koli tehnologije, ki je predmet trenutnega vala navdušenja (virtualna resničnost, glasovni pomočniki, obogatena resničnost, tehnologija veriženja blokov).
Napoved, da bo umetna inteligenca odpravila revščino, in opozorilo, da bi lahko povzročila propad civilizacije, sta na nasprotnih bregovih tehnoutopičnega spektra. Toda v resnici oba potrjujeta stališče, da laiki ne moremo razumeti tega, kar ustvarjajo v Silicijevi dolini. "To odvrača pozornost od manj senzacionalnih pogovorov in spodkopava poskuse reševanja bolj realističnih problemov," pravi Aleksander Mardy, eden od koordinatorjev foruma za oblikovanje politik, povezanih z umetno inteligenco, na Tehnološkem inštitutu Massachusettsa (angl. Massachusetts Institute for Technology). "To je kontraproduktivno," pravi o pismu FLI. "Ničesar ne bo spremenilo, vendar bomo morali počakati, da se debata umiri, da bi se lahko vrnili k resnim pomislekom."
Vodilni komercialni laboratoriji, ki se ukvarjajo z umetno inteligenco, kar tekmujejo, kdo bo naslednji objavil novo veliko napoved. OpenAI je pred manj kot šestimi meseci predstavil ChatGPT, sledil je GPT-4, ki je po številnih merilih boljši, vendar njegovo notranje delovanje za tiste, ki niso zaposleni v podjetju, večinoma ostaja skrivnost. Njegova tehnologija pogaja številne produkte, ki jih je izdelal Microsoft, njegov največji vlagatelj. Google je pohitel z izdajo konkurenčnega klepetalnega sistema Bard. Meta pa je pred kratim izdala enega svojih modelov umetne inteligence, ki je pod določenimi pogoji na voljo raziskovalcem – njegova programska koda pa se je že pojavila na spletu.
OpenAI je kljub svojemu imenu postal zagovornik teze, da je treba tehnologijo skrbno varovati, hkrati pa zavzel stališče,
Meta raziskovalcem omogoča dostop do svojih modelov umetne inteligence, saj upajo, da bodo zunanji strokovnjaki odkrili njihove implicitne pristranskosti in morebitne druge pomanjkljivosti. Čeprav se Pineau strinja s takim pristopom, pa meni, da je hitrost, s katero je koda postala širše dostopna, skrb vzbujajoča. "Nismo navdušeni nad uhajanjem informacij," pravi.
Morda nikoli ne bomo imeli dokončnega odgovora na vprašanje, ali imata OpenAI in Meta prave ideje – razprava pa je le zadnja različica enega najstarejših dvobojev v Silicijevi dolini. Toda njuna različna pristopa dokazujeta, da varovalke pri umetni inteligenci postavlja le nekaj vodilnih v največjih podjetjih.
Trenutna situacija kaže jasne podobnosti z vzponom družbenih omrežij, ki so se prav tako razvijala ob pomanjkljivi regulaciji. Čeprav se umetna inteligenca močno razlikuje od družbenih omrežij, so pri tem sodelovali nekateri ključni igralci, ki so vključeni tudi v razvoj umetne inteligence. Storitve so se močno uveljavile, še preden so se nanje začeli odzivati odločevalci in regulatorji – in ti pravzaprav niso dosegli veliko. Leta 2015 se je še vedno zdelo, da je veliko časa za soočenje z vsem, kar bo prinesla umetna inteligenca. Zdi se, da danes to vse manj drži.
Prevedla Janja Zalar.
.webp){kind=icon}
