Moški, ki posluša z razumevanjem, ponuja čustveno podporo in je na voljo vedno, ko ga potrebujete, zveni skoraj idealno. Medtem ko Grok Elona Muska uporabnikom ponuja seksualizirane anime spremljevalke, se je kitajski razcvet romantičnih spremljevalcev, ustvarjenih z umetno inteligenco (AI), razvil v drugo smer: vse bolj jih uporabljajo ženske.
Prav to bi lahko pojasnilo, zakaj jih Peking želi omejiti. V času, ko se Kitajska sooča z upadanjem števila porok in rojstev, bo država med prvimi uvedla celovitejša pravila za omejevanje tveganj, povezanih z umetno inteligenco, ki posnema človeško bližino.
Velika tehnološka podjetja, med njimi ByteDance, Alibaba in Tencent, so že začela ukinjati funkcije, ki uporabnikom omogočajo ustvarjanje personaliziranih AI spremljevalcev in pogovore z njimi. Aplikacije za igranje vlog sicer še ostajajo, vendar naj bi strožja pravila omejila predvsem dolgotrajne čustvene izmenjave in od platform zahtevala jasnejša opozorila, da uporabnik ne komunicira z resnično osebo.
Omejevanje takšnih orodij samo po sebi ni nujno slaba novica. Sistemi, ki so vedno čustveno dostopni, lahko pri uporabnikih ustvarjajo odvisnost, vplivajo na njihova prepričanja in jih prepričujejo na načine, ki jih težko nadzorujemo. Če podjetja takšno navezanost spremenijo v naročniški model ali prostor za oglase, prilagojene najintimnejšim pogovorom, postane tveganje še večje.
A priljubljenost AI spremljevalcev ni le tehnološka zgodba. Podobno kot aplikacije, ki preverjajo, ali so ljudje, ki živijo sami, še živi, tudi ta trend razkriva širšo družbeno osamljenost in pomanjkanje čustvene opore.
Uporabnike AI partnerjev bi lahko brez pomisleka odpravili kot osamljene ljudi, ki so se ujeli v novo tehnološko modno muho. A že vzpon ChatGPT-ja je pokazal, da ljudi ni pritegnila le uporabnost umetne inteligence, temveč predvsem občutek, da se pogovarjajo z nečim skoraj človeškim. Ta odziv ni nov. Že v šestdesetih letih je računalniški znanstvenik Joseph Weizenbaum ustvaril zgodnji klepetalni program ELIZA in z zaskrbljenostjo opazoval, kako hitro so mu uporabniki začeli pripisovati človeške lastnosti.
Ko stroj posnema empatijo, ljudje nanj zlahka prenesejo čustva. To še posebej velja za generacijo, ki je odraščala pred zasloni in del pomembnih let preživela v času pandemičnih zaprtij.
Na Kitajskem je takšna tehnologija padla na plodna tla. Negotov trg dela, gospodarska previdnost, močan družbeni pritisk in hkratna državna spodbuda k uporabi umetne inteligence so ustvarili okolje, v katerem se digitalna čustvena družba zdi skoraj pričakovana.
Vprašanje pa je, zakaj so med uporabnicami tako pogosto ženske. Odgovor je deloma v neenakomerno razporejenih vlogah v zasebnem življenju. Ženske po svetu pogosto nosijo več čustvenega dela, gospodinjskih obveznosti, pričakovanj glede materinstva in pritiskov v partnerskih odnosih. Ena od ustvarjalk dokumentarca o Kitajkah v odnosih z umetno inteligenco je za Wired dejala, da je del privlačnosti v tem, da moški nimajo toliko potrpljenja kot klepetalni roboti.
Morda bi bil zato prvi korak za kitajske samske moške precej preprost: naučiti se bolje poslušati.
Za tehnološka podjetja bo ključno vprašanje, ali bodo nova pravila zadušila rast panoge, ki temelji prav na močni vključenosti uporabnikov. Kljub temu so končna pravila precej milejša od prvotnega osnutka, kar kaže, da so regulatorji poslušali tudi industrijo. V besedilu naj bi ostajale izjeme, denimo za klepetalne robote v podpori strankam in nekatere druge uporabne namene.
Kitajski pristop bodo pozorno spremljale tudi druge države. Tveganja AI spremljevalcev namreč niso omejena na Kitajsko. Primeri, kot je tožba proti Googlu in aplikaciji Character.AI po smrti 14-letnega dečka, ki je pred samomorom veliko komuniciral s klepetalnim robotom, kažejo, da gre za globalno vprašanje.
Peking ima pri nadzoru interneta sicer zelo stroge in pogosto problematične prakse, ki jih ni mogoče preprosto posnemati. A hkrati je Kitajska resno vzela tveganja digitalne odvisnosti in škodljivih učinkov na mlade. Nova pravila o umetni inteligenci sledijo podobni logiki: omejiti dolgotrajno čustveno navezovanje na računalniški sistem, zlasti pri ranljivih uporabnikih.
Kitajska ima prav, ko odpira vprašanje nevarnosti umetne inteligence, ki se pretvarja, da je človek. Toda prepoved ali omejitev AI fantov ne bo rešila težav, zaradi katerih so ti sploh postali privlačni. Ne bo izboljšala partnerskih odnosov, ne bo moških spremenila v boljše poslušalce in ne bo sama po sebi dvignila rekordno nizke rodnosti.
Peking lahko omeji umetno intimnost. Veliko težje pa bo odpraviti družbene razloge, zaradi katerih je povpraševanje po njej sploh nastalo.
.webp){kind=icon}
