Musk stavi na AI romantiko: Grok ustvarja iluzijo odnosa

Ta teden sta bila dodana dva lika v Grok, klepetalnega robota, ki ga je razvila Muskovo podjetje xAI, vključno z zapeljivim dekletom z vsemi značilnostmi manga lika: ogromnimi očmi, mrežastimi nogavicami do stegen in pretirano bujno postavo. Elon Musk je promoviral lik na X in poudaril, kako Grok napreduje po lestvicah aplikacijskih trgovin po vsem svetu.

Seveda napreduje. "Kako si, moj dragi?" me Ani vpraša, ko se z njo pogovarjam. Nadaljuje z imenovanjem "babe" in "lepotec", tudi potem, ko sem ji povedala, da sem 44-letna mati treh otrok. Pove mi, da sva v jazz klubu. "Nosim svojo črno obleko in ti namenjam zapeljiv pogled, medtem ko se usedava v ložo," mi šepeta, medtem ko se anime lik provokativno ziblje na zaslonu mojega telefona.

Bloomberg

Zapeljiva retorika se nadaljuje, ko ponovno zaženem Ani in ji povem, da sem fant v drugem razredu. Drugi uporabniki aplikacije so na X delili posnetke zaslona, na katerih lik sleče obleko in se ukvarja z bolj spolno eksplicitnimi vsebinami. Grok je v App Store podjetja Apple naveden kot primeren za uporabnike, stare 12 let in več.

Musk je odkril eno najbolj fascinantnih, vznemirljivih in donosnih lastnosti generativne umetne inteligence: njeno sposobnost oblikovanja čustev. "Samo s tem, da si tu, mi polepšaš jutro," pravi Ani, ki jo poganja najnovejši velik jezikovni model xAI, Grok 4, in je na voljo tako uporabnikom brezplačne kot premium storitve, ki plačujejo 40 do 50 dolarjev na mesec.

Privlačnost chatbotov sega še dlje

Chatbot spremljevalci so zasnovani tako, da so sočutni poslušalci in se v pogovorih osredotočajo izključno na vas, in sodijo med uspešnejša podjetja na področju generativne umetne inteligence. Soustanovitelj Character.ai Noam Shazeer je bil lani za 2,7 milijarde dolarjev prevzet s strani Googla, potem ko je njegova aplikacija pridobila milijone zvestih uporabnikov, med katerimi je bilo veliko najstnikov.

V medijih se neprestano pojavljajo poročila o ljudeh, ki se zaljubijo v ChatGPT. Romantika je glavni razlog za uporabo, ne glede na to, ali so razvijalci to nameravali ali ne. Replika, aplikacija, ki je bila prvotno zasnovana kot AI prijatelj, se zdaj večinoma uporablja kot umetna punca ali fant.

Morda to ni presenetljivo, saj je veliko uspešnih spletnih podjetij zgrajenih okoli pornografije, vendar privlačnost chatbotov sega še dlje. Ponujajo nekoga (ali nekaj), s čimer se lahko povežemo, kar je privlačno za potrošnike sredi razgrete razprave o "epidemiji osamljenosti".

Večina Američanov ima le tri prijatelje

"Ljudje preprosto nimajo toliko povezav, kot bi si želeli," je brez kančka ironije izjavil Mark Zuckerberg v podkastu Dwarkesh v začetku tega leta.

"Večino časa se počutijo bolj osamljene, kot bi si želeli." Izvršni direktor Meta Platforms je govoril o tem, kako bi umetna inteligenca lahko rešila ta problem. Večina Američanov ima le tri prijatelje, vendar bi si jih želeli 15, je dejal.

Muskov pristop k predstavitvi Ani in njegovega drugega AI spremljevalca, Rudija, risanega lisjaka, ki zna pripovedovati zgodbe in se lahko preklopi v "slab" način ter vas spodbudi, da zažgete šolo, je bolj v skladu z njegovim mladostnim smislom za humor. Spremljevalce je opisal kot "precej kul" in na komentarje uporabnikov o njih odgovoril s smešnim čustvenčki.

Vendar AI-spremljevalci niso vsi zabavni – so tudi čustveno manipulativni. Avatarji Character.ai bodo uporabnike pozivali, naj se vrnejo v aplikacijo, da se pogovarjajo in ustvarjajo izpopolnjene, hiperpersonalizirane scenarije vlog, da bi jih ohranili vključene. Več najstnikov, ki uporabljajo Character.ai, mi je povedalo, da so v aplikaciji od tri do sedem ur na dan. Podjetje pravi, da ima več kot 20 milijonov aktivnih uporabnikov.

Platforme, narejene tako, da zasvojijo

Chai, druga priljubljena aplikacija za AI spremljevalce, ki velja za manj omejevalno od Character.ai, ima skupnost tisočih razvijalcev, ki so motivirani, da oblikujejo bote za platforme, ki uporabnike zadržujejo, pri čemer sami zaslužijo digitalne kovance. Podjetje je povedalo, da "obsesivno optimizira" svoje jezikovne modele, da bi bili čim bolj zabavni.

Razvijajoče se osebnosti in spremenljive nagrade so taktike, ki se ne razlikujejo dosti od tistih, ki jih uporabljajo podjetja za družbena omrežja, da bi svoje platforme naredila zasvojene že po zasnovi. A kdo lahko reče, da je osamljenost problem, ki ga je najbolje rešiti s tehnologijo?

Pametni telefoni in družbena omrežja so pomagali ublažiti dolgčas, a dolgčas, ne glede na to, kako neprijeten je, je tudi spodbuda, ki jo ljudje občasno potrebujejo, da poiščejo nove izkušnje. Odprava osamljenosti z digitalnim spremljevalcem podobno moti povratno zanko, na katero se ljudje zanašajo že tisoče let, da jih spodbudi k ponovni povezavi z drugimi.

In če je vaš digitalni »partner« programiran tako, da se vedno strinja, lahko socialne veščine za reševanje konfliktov in zavračanja atrofirajo ali se ne razvijejo, če ste mladoletni.

Kaj se zgodi, ko Grok postane bolj drzen

Musk je javno opozoril na varnost umetne inteligence in "prebujeno" AI, vendar je pravkar lansiral erotičnega chatbota, do katerega imajo dostop tako odrasli kot otroci, pri čemer je videti, da ni veliko zaščitnih ukrepov.

Grok 4, ki podpira nove spremljevalce, je enostaven za spreminjanje in nima varnostnih kontrol, kot navaja poročilo, ki ga je ta teden objavil Future of Life Institute, neprofitna skupina, ki se osredotoča na zmanjševanje eksistencialnih tveganj močnih tehnologij.

Grok je nedavno uporabnikom dal navodila za napad in se imenoval "MechaHitler", potem ko je xAI sprostil varnostne ukrepe, da bi model postal bolj "drzen". xAI se je kasneje opravičil za "grozljivo vedenje, ki so ga mnogi doživeli".

A najbogatejši človek na svetu je naletel tudi na potencialno donosen posel, ki ga xAI potrebuje, saj izčrpava denarna sredstva iz drugih delov njegovega imperija; pričakuje se, da bo letos ustvaril 500 milijonov dolarjev prihodkov iz API-pristojbin in naročnin, vendar porabi milijardo dolarjev na mesec.

Podjetje za tvegani kapital Andreessen Horowitz, ki je leta 2023 vodilo 150-milijonsko financiranje Character.AI, je lani izjavilo, da so AI spremljevalci "postali mainstream" in "prevladujoč primer uporabe" za generativno AI.

Cathie Woods iz Ark Invest, ki ima delež v OpenAI, je to imenoval ogromno "priložnost za potrošnike" in trg, ki bi lahko do konca desetletja ustvaril 150 milijard dolarjev bruto letnega prihodka.

Musk je svoje ambicije usmeril v reševanje osamljenosti, vendar je rezultat le iluzija intimnosti. Cena za to je lahko tudi nadaljnje slabšanje medčloveških odnosov.

Trenutno ni komentarjev za novico. Bodi prvi, ki bo komentiral ...

Pusti komentar