Fil Menczer je v začetku leta 2010 doživel prvo izkušnjo nečesa, kar sam imenuje »socialni boti«. Medtem ko je preiskoval, kako informacije potujejo po Twitterju, je naletel na nekaj skupkov uporabniških računov, ki so bili videti nekoliko sumljivi. Nekateri so isto objavo delili po tisočkrat, drugi so delili na tisoče objav iz vsakega računa. Spomni se, da ga je takrat prešinila misel: "To niso ljudje."
Tako se je začela njegova obsežna kariera opazovanja botov. Kot ugledni profesor informatike na Univerzi Indiana v Bloomingtonu je Menczer proučeval, kako se boti razmnožujejo, manipulirajo z ljudmi in jih hujskajo drugega proti drugemu. Leta 2014 je sodeloval v ekipi, ki je razvila orodje BotOrNot, ki uporabnikom v internetni divjini pomaga odkrivati lažne račune. Danes velja za enega najuglednejših lovcev na bote na internetu.
Če ima kdo sposobnost, da med nami hitro opazi stroje, je to prav Menczer. Pred nekaj leti je v jasnosti zaokrožila hipoteza pod imenom teorija mrtvega interneta, ki je trdila, da so skoraj vse pogovore na spletu nadomestili klepeti, ki jih ustvarja umetna inteligenca, in takrat jo je Menczer označil za traparijo. Zdaj ob razcvetu generativne umetne inteligence s svojimi chatboti, ki za vas igrajo vlogo ljubezenskega partnerja, in z vplivneži na podlagi UI, pa Menczer teorijo vidi v novi luči. Zamisli še vedno ne jemlje dobesedno, vendar, kot pravi, vse resneje jemlje njeno osnovno sporočilo. "Ali me skrbi?" reče. "Da, zelo me skrbi."
Teorija mrtvega interneta je zaslovela leta 2021, ko jo je uporabnik z imenom IlluminatiPirate objavil na nekem zakotnem spletnem forumu. IlluminatiPirate je trdil, da je internet postal ogromna, brezčloveška puščava, polna algoritemsko optimiziranih kopiranih objav. Teorija je za celotno zadevo krivila prikrito vladno zaroto, zaradi česar jo je resno jemal le malokdo, a s prihodom orodij, kot sta ChatGPT in Midjourney, je dobila naravnost preroški prizvok. Družbeni mediji se danes zdijo bolj čudaški. Iskanja dajejo slabše rezultate. Čez noč so vzklile cele novičarske mreže, ki jih je ustvarila umetna inteligenca. Družba Meta Platforms sanja o prihodnosti, v kateri bo umetna inteligenca vključena v ustvarjanje znatnega deleža objav na Facebooku in Instagramu. Spletna mesta, kot je Wikipedija, se šibijo pod težo spletnih pajkov na podlagi UI, ki gomazijo po njihovih straneh in iščejo sveže informacije za svoje modele. Vse to ustvarja povratno zanko, v kateri se vsebine, ustvarjene z umetno inteligenco, ustvarjajo zato, da bi ugodile željam sistemov priporočil na podlagi umetne inteligence, zaradi česar nam grozi, da bomo ljudje v tem postopku kmalu zgolj še opazovalci.
Lani sta se Renée DiResta, vodilna raziskovalka na področju dezinformacij, in Josh Goldstein, raziskovalec na Univerzi Georgetown, lotila proučevanja rabe vsebine, ki jo ustvari umetna inteligenca, v neželeni pošti in prevarah. Osredotočila sta se na več kot sto strani Facebooka z desetinami slik na podlagi UI, ki so skupaj imele na milijone sledilcev. Na nekaterih straneh sta našla ponarejene fotografije miniaturnih kravic, ki so sledilce usmerjale na prevarantska spletna mesta, kjer naj bi jih imeli možnost kupiti. Na drugih straneh sta lahko opazovala idilične slike majhnih domov in brunaric, ki so ljudi usmerjale na spletna mesta, polna oglasov.
Businessweek
Ta prizadevanja sledijo dolgi tradiciji ustvarjanja tako imenovanih farm vsebin z namenom zaslužka z digitalnimi oglasi. Z generativno umetno inteligenco je postopek množičnega ustvarjanja tovrstnih farm postal veliko bolj učinkovit. Ne samo to; raziskave oglaševalske industrije kažejo, da generativna umetna inteligenca botom olajša simulacijo pristne dejavnosti uporabnikov, zaradi česar se zdi, kot da na te oglase klikajo resnični ljudje.
V svojem prispevku sta DiResta in Goldstein omenila številne strani Facebooka s kopiranimi napisi, ki sta jih delila. "To je moja prva torta! Veselim se vaših ocen," se je glasil eden od napisov pod vsaj 18 različnimi slikami, ki jih je ustvarila umetna inteligenca, prikazovale pa so 18 različnih ljudi, ki pozirajo z 18 različnimi tortami. Strani so pritegnile človeške sledilce, ki pogosto niso vedeli, za kaj gre. Še bolj osupljivo je bilo videti več sto tisoč všečkov, srčkov in objemov v odziv na podobo Jezusa, ki je upodobljen kot rakovica – del nenavadne, a znatne niše slik na podlagi umetne inteligence, ki Kristusa upodablja kot enega od rakov. Nizkokakovostna umetnost, ustvarjena z umetno inteligenco, se je na spletu tako razširila, da so ji opazovalci dodelili poseben naziv: slop.
V nekaterih primerih motivi za ustvarjanjem slopa niso zgolj komercialni. Rusko dezinformacijsko omrežje Pravda, na primer, je od ruskega napada na Ukrajino na stotinah novo ustvarjenih spletnih strani objavilo že na milijone člankov, morda z namenom, da bi manipulirali s samimi modeli umetne inteligence z objavljanjem osupljivih količin propagande, ki naj bi jo použili spletni pajki na podlagi UI. Pred kratkim je sistem za nadzor medijev NewsGuard sklicevanja na ta spletna mesta zasledil v odgovorih, ki so jih ustvarili vodilni chatboti.
Orodja z generativno umetno inteligenco za ustvarjanje gigantskih količin slopa so se pojavila ravno ob pravem času, ko so družbene platforme začele opuščati priporočanje objav sorodnikov in prijateljev ter začele promovirati vsebine uporabnikov, ki jim uporabniki niso sledili. Tako so se naključni uporabniški računi lažje širili dlje, kot bi jim to lahko uspelo v preteklosti, ko so bili družbeni mediji še bolj, saj veste, družbeni. In res, bolj je DiResta komunicirala s temi stranmi, več jih je lahko videla. "Vsebina se ni zgolj ustvarjala, marveč mi je bila tudi priporočena," pravi DiResta, ki je zdaj izredna raziskovalna profesorica na Univerzi Georgetown. "Stroji tej vsebini pomagajo, da nas najde."
Slop včasih ljudi resnično premami. Lahko je dovolj bizaren ali grozljiv, da uporabniki od njega ne morejo odvrniti pogleda; včasih je vsebina, ki ne nastaja nujno znotraj meja resničnosti, dejansko bolj srčkana ali očarljiva od prizorov iz našega fizičnega sveta. "Če se omejite samo na stvari, ki so se dejansko zgodile, ali na šale, ki so si jih izmislili ljudje, imate vnaprej določen nabor vsebine," pravi Jeff Allen, soustanovitelj in glavni raziskovalec v raziskovalno-svetovalni skupini za zaupanje in varnost, imenovani Integrity Institute. "UI pa ta nabor poveča." A vsebina, ki jo ustvarja in promovira umetna inteligenca, deluje tudi kot invazivna življenjska vrsta, ki se širi tako hitro, da pri tem negativno vpliva na druge prebivalce interneta. "To je kot cvetenje alg, ki lahko uide izpod nadzora in zaduši življenje, ki bi ga želeli imeti v zdravem ekosistemu," pravi Allen.
Februarja je OpenAI poročal o določenih "zlonamernih načinih uporabe" svojih modelov. V enem od tovrstnih primerov je lažna ganska mladinska organizacija s pomočjo člankov in komentarjev, ustvarjenih z umetno inteligenco, leta 2024 poskušala vplivati na volitve v državi. V drugem primeru je na desetine računov, ki so potencialno povezani s severnokorejskimi kibernetskimi kriminalci, zasedlo resnična delovna mesta v zahodnjaških podjetjih, in sicer s pomočjo življenjepisov, spremnih pisem ter celo oseb, ki so se izdajale za njihove reference – vse pa je ustvarila umetna inteligenca. S pomočjo orodij podjetja OpenAI so si utrli pot skozi razgovore za zaposlitev; ko so začeli delati na teh delovnih mestih, pa so sodelavcem s pomočjo istih orodij prepričljivo pojasnili, zakaj nikoli ne sprejemajo videoklicev. (V družbi OpenAI pravijo, da njihove politike strogo prepovedujejo tovrstne goljufije, kar ni presenetljivo.)
Še ena težava je ogromen obseg črpanja podatkov s spleta, ki jih podjetja z umetno inteligenco izvajajo pri zbiranju podatkov za svoje modele. Po podatkih podjetja Tollbit, ki založnikom pomaga pri pridobivanju plačila, ko so podatki postrgani z njihovih spletnih strani, se je obseg strganja s posamezne spletne strani od tretjega do četrtega četrtletja prejšnjega leta podvojil. Ko je umrl nekdanji ameriški predsednik Jimmy Carter, so storitve Wikimedije začasno delovale upočasnjeno, saj jih je zadel val prometa spletnih pajkov, ki so si postregli z videoposnetkom politične razprave iz leta 1980. »Naša infrastruktura je zasnovana tako, da vzdrži nenadne poskoke v prometu (ko gre za ljudi med odmevnimi dogodki), vendar je količina prometa, ki ga ustvarjajo strgalniki, brez vsake primere in vodi v naraščajoča tveganja in stroške,« je podjetje zapisalo v objavi na blogu.
Nekateri založniki se na razmere odzivajo s sklepanjem dogovorov s podjetji za umetno inteligenco, ki nato plačujejo za dostop do vsebine, ali pa s postavitvijo plačilnih zidov, da bi tako odgnali spletne pajke. Ta trend bi lahko spodkopal osnovno idejo o prostem in odprtem spletu, kot opozarja Shayne Longpre, doktor znanosti na Inštitutu za tehnologijo v Massachusettsu in vodja pobude za dokazovanje izvora podatkov. "Povprečni potrošnik bo z vedno večjo težavo brezplačno dostopal do določenih informacij ali pa bo moral za dostop do teh informacij skleniti naročnino na določene robote z UI," pravi. Medtem pa bodo "manjši spletni založniki morda povsem izpadli iz igre".
Prehod na internet, ki ga poganjajo chatboti, bi lahko ogrozil tudi največje akterje na spletu. Najbolj očiten primer je lahko Google podjetja Alphabet, čigar iskalnik temelji na usmerjanju uporabnikov k drugim virom informacij. Podjetje je začelo v iskalniku objavljati navihane povzetke, imenovane AI Overviews. Poleg občasnih ne ravno tehtnih nasvetov lahko storitev Overviews ljudem oteži ustvarjanje spletnih mest, na katera bodo klikali drugi ljudje. Kot je poročal Bloomberg Businessweek, so nekateri spletni založniki opazili padec prometa in za to v glavnem krivijo umetno inteligenco. (Google to razlago zavrača in pravi, da je za to, da promet na spletnih straneh upada ali narašča, veliko razlogov in da storitev AI Overviews "ustvarja nove priložnosti za povezovanje ljudi s spletnimi vsebinami.") Z vzponom interneta, ki ga poganja umetna inteligenca, postaja vse jasneje, kako so cilji tehnoloških velikanov pogosto v nasprotju z interesi njihovih uporabnikov. V tekmi za prevlado v prihodnosti, ki jo poganja umetna inteligenca, pospešujejo prehod, in sicer ne glede na to, ali je svet na to pripravljen ali ne. Ali uporabniki Facebooka res želijo, da se računi z UI mešajo z objavami nekdanjih sošolcev in daljnih sorodnikov, kot si to predstavljajo direktorji podjetja? Kdo bi vedel? A če resnične ljudi na aplikacije dobesedno prilepi v času, ko ljudje objavljajo manj pogosto, je Meta to več kot pripravljena tudi raziskati.
Allen trdi, da si ni težko predstavljati antiutopične končne točke, kjer se vsi ti trendi zbližajo. V svetu, kjer resnični ljudje z digitalnim oglaševanjem ne zaslužijo več dovolj za vzdrževanje svojih spletnih strani in njihove objave ne zmorejo preglasiti hrupa, ki ga na družbenih omrežjih ustvarja umetna inteligenca, mrtvi internet zmaga. Še huje; raziskave kažejo, da se lahko modeli umetne inteligence, ko se usposabljajo na vsebini, ki jo prav tako ustvari umetna inteligenca, zrušijo. "Brez novih spletnih vsebin izpod človeških rok," pravi Allen, "internet nekako umre."
Menczerja ta apokaliptični scenarij zaenkrat še ni prepričal. Če tehnološka podjetja dopustijo, da se njihovi izdelki izpridijo v cenena gojišča za bote, bodo ljudje po njegovih besedah svojo pozornost slej ko prej usmerili drugam. "Če je razmerje med signalom in šumom tako nizko, da gre že za popoln zmazek, ga bodo ljudje prenehali uporabljati," pravi. Tehnološka podjetja pa tega ne bodo dovolila.
To morda drži. Pa vendar, ena najbolj gledanih lanskih objav na Facebooku prikazuje lično urejeno sobo z velikanskim ventilatorjem, vgrajenim v vzglavje posteljnega okvirja s sredine prejšnjega stoletja, ki se dviga nad golo vzmetnico; zbrala je približno 179 tisoč odzivov. "Končno sem našel popolno posteljo," je zapisal avtor objave, "stavim, da se s tole stvarjo ponoči ne bi potil!" V objavi je bilo mogoče opaziti določene značilnosti slopa – rešetka ventilatorja je bila videti rahlo ukrivljena, enake objave pa so delili tudi drugi uporabniki – vendar ni bilo mogoče zagotovo trditi, za kaj gre. In prav v tem je bistvo.
.webp){kind=icon}
Trenutno ni komentarjev za novico. Bodi prvi, ki bo komentiral ...