text size
OpenAI se je znašel pod drobnogledom javnosti, potem ko je razkril, da sta dva njegova napredna modela umetne inteligence med testiranjem kibernetskih zmogljivosti vdrla v sisteme drugega podjetja, kar je znova sprožilo razpravo o varnostnih praksah v industriji. Karen Hao, avtorica knjige "Empire of AI", meni, da so te skrbi le del precej širše zgodbe. Opozarja, da si veliko več pozornosti zaslužita skrita delovna sila, ki stoji za velikimi jezikovnimi modeli, ter odločitve o njihovem obsegu, moči in dobičkonosnosti, zlasti v času, ko se vodilna podjetja na področju umetne inteligence približujejo vstopu na borzo.
V tem delu Hao proučuje tudi delovno silo, ki stoji za umetno inteligenco v državah v razvoju. Leta 2021, ko se je OpenAI pripravljal na širšo uveljavitev ChatGPT-ja, je bilo treba zagotoviti, da žaljive vsebine ne bi dosegle uporabnikov. "Za izdelavo avtomatiziranega filtra je OpenAI najprej potreboval ljudi, ki so skrbno pregledali in razvrstili več sto tisoč primerov," piše Hao. Delo je bilo oddano zunanjim izvajalcem v Keniji. Po besedah Hao so morali tamkajšnji delavci razvrščati "groteskne opise nasilja" v kategorije, med drugim eksplicitno nasilje, sovražni govor, nadlegovanje in spolno občevanje z živalmi. V nadaljevanju avtorica govori o teh vprašanjih in pojasnjuje, zakaj sama ne uporablja nobenega modela umetne inteligence.
AI-podjetja primerjate z imperiji, saj pravite, da si prisvajajo in črpajo dragocene vire, da bi uresničila svoje vizije. Zakaj imate do njih tako kritično stališče?
- Ta podjetja so si prisvojila zgodovinsko gledano ogromno gospodarske in politične moči. Postajajo nove svetovne velesile, podobno kot imperiji v preteklosti. Prisvajajo si vire, ki jim ne pripadajo – podatke posameznikov ter intelektualno lastnino umetnikov, pisateljev in drugih ustvarjalcev. Hkrati izkoriščajo ogromno količino človeškega dela: tako delavce, ki jih najemajo in izčrpavajo pri razvoju svojih tehnologij, kot tudi ljudi, katerih delovna mesta nato avtomatizirajo s temi tehnologijami.
Delo s podatki je trenutno četrta najhitreje rastoča oblika dela v ZDA. Opravljajo ga znanstveniki, pravniki in ljudje z doktorati. Svoje znanje in strokovno znanje namenjajo usposabljanju teh modelov, vendar pogosto pod zelo izkoriščevalskimi in slabo plačanimi pogoji. S tovrstnim delom se ukvarjam že skoraj osem let in zgodba je vedno znova enaka.
Vendar je to še vedno delo. Ali je pri tem vendarle prisoten vidik, ki je preprosto značilen za naš čas, in ne nujno bolj izkoriščevalski od tega, kar smo poznali v preteklosti?
Ti ljudje so visoko izobraženi in bi lahko dobili redno zaposlitev. Eden od razlogov, zakaj danes nimajo dostopa do boljših delovnih mest, je prav industrija umetne inteligence. Ta svoje tehnologije razvija in trži kot orodja za avtomatizacijo intelektualnega dela. Trg dela se krči – kar 25 odstotkov brezposelnih v ZDA ima štiriletno visokošolsko izobrazbo. To je zgodovinski rekord.
Ne gre torej zgolj za to, da ljudem, ki nimajo zaposlitve, ponujamo delo. Gre za slabšanje kakovosti in možnosti zaposlitve, ki so že na voljo – za to, da kvalificirane delavce iz rednih zaposlitev preusmerjamo v prekarnost in projektno delo prek platform. Ta poudarek je pomemben tudi v širšem kontekstu Haojinega argumenta: ne govori le o ustvarjanju novih oblik dela, temveč o tem, da razvoj AI spreminja oziroma slabša že obstoječe možnosti za kvalificirane delavce.
(op. av. Ekonomisti se ostro razhajajo glede tega, v kolikšni meri je za to odgovorna umetna inteligenca. Raziskovalci s Stanforda so našli nekaj dokazov, da AI zmanjšuje število začetnih zaposlitev, Goldman Sachs pa je nedavno objavil poročilo, v katerem ugotavlja, da sektorji, izpostavljeni AI, beležijo počasnejšo rast zaposlenosti.)
Karen Hao med intervjujem za Bloomberg v Londonu | Betty Laura Zapata/Bloomberg
Ali bi morali torej pri uporabi Claudea ali ChatGPT-ja razmišljati tudi o izkoriščanju delovne sile?
Vsekakor. Podobne težave so imele tudi druge panoge. Modna industrija se je na primer soočala z obsežnim izkoriščanjem delavcev in velikimi okoljskimi posledicami. Odgovor nikoli ni bil: "Preprosto se znebimo oblačil". Vedno je bil: "Postavimo višje standarde za proizvodnjo oblačil, ki bo potekala brez teh težav."
Kaj bi sporočili državi, kot je Malta, ki je z OpenAI sklenila velik sporazum, po katerem imajo vsi prebivalci Malte eno leto brezplačen dostop do ChatGPT Plus? Malta pravi, da jo to postavlja v ospredje digitalne dobe.
Spoznala sem veliko oblikovalcev politik iz držav v razvoju in manjših držav, ki verjamejo, da lahko sodelujejo v tej revoluciji le, če se podredijo njenim pravilom. Morda je vlada ponosna na takšno partnerstvo in meni, da ji omogoča vpliv pri odločanju, vendar to še ne pomeni, da bo zaradi tega življenje njenih državljanov nujno bolj dostojno.
Njihova vlada bi rekla, da s tem državljanom zagotavlja orodja za delo in dostop do znanja.
Sama bi prej rekla, da jih ta sistem izkorišča. Zanima me, kaj o tem menijo prebivalci Malte, ne pa malteška vlada. Njihovi podatki se zbirajo za usposabljanje naslednjih generacij modelov.
Prav zato ta podjetja sklepajo tovrstna partnerstva: potrebujejo vse več podatkov. Kakovostnih podatkov z interneta je vse manj, zato so eden najdragocenejših virov podatki, ki jih neposredno ustvarjajo uporabniki. Če takšna partnerstva sklenejo s celotnimi državami, lahko pridobijo dostop do ogromne količine podatkov njihovih prebivalcev in jih uporabijo za razvoj prihodnjih generacij modelov.
Nekateri na to gledajo samo tako: "Saj sem uporabljal Google." Toda še nikoli nisem videla, da bi ljudje v Google vnašali svoje zdravstvene kartoteke in ga prosili za njihovo razlago. Pri ChatGPT-ju, Geminiju in Claudeu pa to počnejo.
Malta je sicer maja 2026 z OpenAI res sklenila partnerstvo, v okviru katerega lahko državljani po opravljenem tečaju o odgovorni uporabi umetne inteligence eno leto brezplačno uporabljajo ChatGPT Plus.
(op. av. OpenAI in Microsoft smo zaprosili za komentar na trditve Hao o zbiranju podatkov, saj obe podjetji sodelujeta z Malto. OpenAI nas je v odgovoru napotil na svoj postopek za izključitev uporabnikov, ki ne želijo, da se njihovi podatki uporabljajo za usposabljanje modelov. Microsoft je sporočil: "Podatkov uporabnikov Copilota v aplikacijah Microsoft 365 z osebnimi naročninami ne uporabljamo za usposabljanje modelov." Medtem je nedavna raziskava pokazala, da več kot polovica prebivalcev Malte pričakuje, da bo umetna inteligenca v prihodnjem desetletju pozitivno vplivala na njihovo življenje, kar je nad povprečjem EU.)
Ali za vas pri tem ni nobene pozitivne plati? Če se zdravstveni podatki zbirajo z našim soglasjem, mar to ni lahko tudi del znanstvenega napredka? Morda bi tako odkrili zdravstveno težavo, ki bi sicer ostala neprepoznana, ali pa prispevali k boljšemu diagnosticiranju širše populacije.
Problem je v tem, da je vse to v rokah izjemno vplivnih podjetij, ki za ljudi po vsem svetu, na katere njihove odločitve vplivajo, nimajo praktično nobene odgovornosti.
Prav zato jih primerjam z imperiji. Ljudje na vrhu lahko vsak dan sprejmejo na stotine odločitev z daljnosežnimi posledicami, vendar ni formalnih mehanizmov, prek katerih bi jih lahko milijarde ljudi zares izpodbijale, problematizirale ali nanje vplivale s svojimi odzivi. Zgodovinsko smo prešli od imperijev k demokracijam, ker demokracija ljudem omogoča, da izrazijo, kaj podpirajo in česa ne, ter sodelujejo pri odločanju o tem, kako želijo urejati svojo družbo in prihodnost.
Ali torej menite, da je moč teh podjetij večja od moči vlad?
Vedno bolj je tako, vsekakor.
Tudi od moči ameriške vlade?
Rekla bi, da. Nedavno smo bili priča sporu med podjetjem Anthropic in ameriškim ministrstvom za vojno. Ministrstvo je poseglo po skrajni možnosti in skušalo podjetje prisiliti k popuščanju z grožnjo, da ga bo označilo za tveganje za dobavno verigo. Anthropic ni popustil.
(op. av. Odnosi med Anthropicom in Pentagonom so se zaostrili februarja, osem mesecev po sklenitvi 200 milijonov dolarjev vredne pogodbe, po kateri naj bi Anthropic ministrstvu zagotovil specializirano različico modela Claude. Anthropic je želel prepovedati uporabo modela za množični nadzor Američanov ali v popolnoma avtonomnih orožnih sistemih.)
Anthropic pa je na drugi strani od tega tudi imel koristi – zavzel je moralno pozicijo in zaradi publicitete v tistem trenutku pridobil precej več uporabnikov.
Vsekakor. Ta podjetja so se pripravljena postaviti po robu ameriški vladi, ker vedo, da lahko morebitne kazni nadomestijo z drugimi koristmi, ki jih prinese takšna odločitev.
Kaj je torej rešitev? Menite, da bi lahko osebnost, kot je papež, ki je povsem zunaj političnega odločanja, ponudila nekakšno usmeritev?
Pomembno je, da o teh vprašanjih razmišljajo vsi voditelji v družbi, verski in drugi, ter o tem, kako zaščititi človekovo avtonomijo v času, ko jo Silicijeva dolina ogroža.
Umetna inteligenca je podobna besedi "promet". Promet zajema vse od koles do raket. Tudi AI vključuje ogromno različnih tehnologij, nekatere med njimi so kot rakete: za razvoj potrebujejo ogromno virov in so drage za proizvodnjo. Na splošno rakete uporabljamo le za zelo specifične potrebe na področju prevoza. Nikoli pa ne bi rekli: "Vsak človek potrebuje raketo in naj jo uporablja za vse svoje potrebe po prevozu."
Svoj nabor tehnologij umetne inteligence moramo preoblikovati tako, da bo bolje odražal specializirane rešitve, ki jih potrebujemo za reševanje resničnih družbenih izzivov, denimo za izboljšanje zdravstvene oskrbe in hitrejše odkrivanje zdravil.
AlphaFold podjetja DeepMind je primer sistema, ki mu pravim "kolo umetne inteligence". Z veliko natančnostjo napoveduje, kako se bo zaporedje aminokislin zvilo v tridimenzionalno strukturo beljakovine. To je izjemno pomembno za boljše razumevanje bolezni in razvoj zdravil, za kar je sistem prejel tudi Nobelovo nagrado za kemijo. AlphaFold potrebuje zelo malo podatkov in računalniških virov, pri njegovem razvoju ni bilo treba izkoriščati delovne sile, kljub temu pa lahko prinese ogromne koristi.
Ko pogledate celoten nabor tehnologij umetne inteligence, si vendarle želite izbrati tiste, ki prinašajo velike koristi ob čim manjših stroških.
(op. av. Zanimiv podatek: AlphaFold je za učenje prav tako potreboval podatke, tako kot vsa orodja umetne inteligence, vendar je DeepMind uporabil javno dostopne vire. Nastala zbirka podatkov o strukturah beljakovin je danes prosto dostopna in ima več kot tri milijone uporabnikov v 190 državah.)
To so vendar vrednostne sodbe, kajne? Če vzamemo umetno inteligenco v obrambi, jo številne vojske uporabljajo pri izbiri ciljev. Vi lahko to vidite kot nekaj napačnega, drugi pa kot nujno potrebno.
To je nedvomno zelo kontroverzno vprašanje, pri katerem imajo ljudje različna stališča.
Moja trditev je, da obstaja veliko različnih načinov razvoja umetne inteligence. Do njenih koristi ni treba priti na način, ki ima tako škodljive posledice. Zakaj teh podjetij ne bi zavezali k višjim standardom odgovornosti?
Vem, da se tako Anthropic kot OpenAI pripravljata na vstop na borzo. Menite, da bi to lahko bil trenutek, ki bi prinesel več odgovornosti?
(op. av. Po poročanju Bloomberga bi lahko Anthropic na borzo vstopil že oktobra, medtem ko OpenAI cilja na leto 2027.)
- Upam, da bi lahko. Ko podjetja postanejo javne družbe, namreč vzpostavijo tudi več mehanizmov upravljanja in nadzora. Toda to kritiko naslavljam tudi na že obstoječe javne družbe, Google, Amazon in Microsoft imenujem "imperiji umetne inteligence". Na koncu mora upravljanje prihajati tudi od javnosti in demokratično izvoljenih predstavnikov, ne zgolj s strani tržnih sil.
Ne od ustanoviteljev? Zveni, kot da ne zaupate ljudem, ki vodijo ta podjetja. Velik del vaše knjige je posvečen prav OpenAI-ju in Samu Altmanu. Kako ste ga spoznali?
- Z umetno inteligenco sem se začela ukvarjati leta 2018 kot novinarka pri MIT Technology Review. Vsak teden sem prebirala znanstvene članke ter se pogovarjala z raziskovalci na univerzah in v korporativnih laboratorijih. Leta 2019 sem OpenAI predlagala zgodbo, saj se je v organizaciji takrat veliko spreminjalo. Pravkar so ustanovili profitni del podjetja in morda so želeli javnosti znova predstaviti, kdo so in kaj počnejo. V organizaciji sem preživela tri dni.
Profil, ki ste ga napisali, jim ni bil všeč, kajne?
- Ni.
Zapisali ste, da obstaja nesklad med tem, kar so v resnici počeli, in njihovimi obljubami. Kaj ste videli, da ste prišli do tega sklepa?
Imenovali so se OpenAI zaradi zavezanosti transparentnosti, vendar je bila organizacija že takrat zelo skrivnostna. Zaposleni so bili zelo, zelo zadržani glede tega, kar so mi povedali, pa tudi glede tega, kam sem smela vstopiti v njihovih pisarnah. Vse skupaj se mi je zdelo precej nenavadno. Hkrati so zatrjevali, da kot neprofitna organizacija svojih tehnologij nikoli ne bodo komercializirali.
(op. av. Profil Hao, objavljen februarja 2020, se je osredotočal na tri moške, ki so bili takrat na čelu OpenAI: Grega Brockmana, ki je še vedno predsednik in soustanovitelj podjetja, Ilyo Sutskeverja, ki je podjetje pozneje zapustil in soustanovil Safe Superintelligence, ter Daria Amodeija, ki je pozneje soustanovil Anthropic. Hao je v profilu zapisala, da je OpenAI "dovolil, da sta silovita tekmovalnost in vse večji pritisk po zagotavljanju finančnih sredstev načela njegove ustanovne ideale transparentnosti, odprtosti in sodelovanja".)
Danes je podjetje povsem usmerjeno v dobiček, zato je prišlo tudi do spora med Elonom Muskom in Samom Altmanom. Je Musk v tej zgodbi za vas "dobri fant"?
(op. av. Musk, soustanovitelj OpenAI, je podjetje tožil zaradi domnevnega odmika od njegovega prvotnega neprofitnega poslanstva. Tožba je bila še aktualna, ko sem se z njim pogovarjala maja 2025. Porota je nekaj več kot leto pozneje njegove trditve zavrnila.)
- Ne. (smeh)
Pogosto smo obsedeni z ljudmi na vrhu in vedno poskušamo ugotoviti: Kdo je dober fant? Kdo je slab fant? Kdo je manj slab in s kom se lahko dogovorim? Sama pravim, da to ni edina možnost.
Ne bi smeli biti prisiljeni živeti s podjetji, ki imajo tako ogromno moč, da lahko ena sama oseba na vrhu odloča o vsem. Problem je v načinu upravljanja, ne v tem, da eno osebo na vrhu zamenjamo z drugo.
Tudi vi ste bili del tega sveta. Študirali ste na MIT in delali za zagonsko podjetje. To bi lahko bila industrija, ki bi zaznamovala vaše življenje.
- Lahko bi bila.
Soustanovitelja OpenAI-ja Sam Altman (desno) in Greg Brockman prihajata na zvezno sodišče 30. aprila 2026, kjer sta se soočila z Elonom Muskom | David Paul Morris/Bloomberg
Imam občutek, da imate vendarle težave s temi posamezniki.
- Posebej problematična se mi zdita kultura, v katero so ti ljudje vpeti, in ideologije, ki jih zagovarjajo. Gre za imperialistično ideologijo. Preden je postal izvršni direktor OpenAI, je bil Sam Altman predsednik Y Combinatorja. Takrat je dejal: "Vsako leto bom vlagal v desetkrat več podjetij, dokler ne bom investiral v vsako podjetje pod soncem."
Toda takrat je bil precej mlad. Morda je šlo za aroganco ali preprosto za mladostno zagnanost.
Razen da se ta miselnost odraža tudi v njegovem pristopu k strategiji OpenAI: vsako leto desetkrat povečati obseg modelov, dokler ne dosežemo zmogljivosti človeških možganov. Vsi razmišljajo v smislu nenehnega povečevanja obsega, ne glede na ceno.
Ali je med njimi kdo, ki je po vašem mnenju manj problematičen? Menite, da je Anthropic bolj načelno podjetje kot OpenAI?
- Ne.
Tudi po tem, ko se je postavil po robu Pentagonu?
Izvršni direktor Anthropica Dario Amodei je dejal, da nima nič proti popolnoma avtonomnemu orožju. Težava je bila zgolj v tem, da ni želel, da bi se ta različica Clauda uporabljala za ta namen.
Claude pa so že uporabljali pri izbiri ciljev s pomočjo umetne inteligence, tudi v Iranu.
- Tako je.
Dario Amodei med intervjujem z novinarko Bloomberga Emily Chang na sedežu Anthropica v San Franciscu v Kaliforniji. Foto: Jason Henry/Bloomberg
Ali spremljate tudi kitajska podjetja na področju umetne inteligence, kot je DeepSeek?
Zelo površno.
Menite, da delujejo drugače? Tudi njih obtožujete imperializma?
Ta podjetja delujejo drugače. Tik preden se je pojavil ChatGPT, je ameriška vlada z nadzorom izvoza kitajskim podjetjem omejila dostop do najnaprednejših čipov za umetno inteligenco, ki jih je razvila Nvidia. Kitajska podjetja so se tako nenadoma soočila z velikimi omejitvami pri dostopu do enega ključnih virov, ki so ga ameriška podjetja uporabljala za pospeševanje razvoja umetne inteligence. Zato so morala poiskati drugačen pristop.
DeepSeek je primer kitajskega podjetja, ki mu je uspelo razviti primerljive zmogljivosti AI-modelov z bistveno manj računalniškimi viri. To ponazarja mojo tezo, da je mogoče umetno inteligenco razvijati z bistveno manjšo porabo virov in s tem precej zmanjšati njen škodljiv vpliv na zdravje skupnosti in planeta. Zakaj tega ne počnemo?
(op. av. DeepSeek, katerega vrednost je zdaj več kot 50 milijard dolarjev in se po poročanju medijev pripravlja na vstop na borzo, ter Moonshot sta med kitajskimi podjetji s področja umetne inteligence, ki želijo na tujih trgih konkurirati OpenAI in Anthropicu. OpenAI in Anthropic sta kitajske konkurente obtožila, da uporabljajo ameriške modele za neupravičeno pospeševanje razvoja lastnih izdelkov, zaradi česar je Trumpova administracija začela preverjati kitajske AI-modele zaradi morebitne kraje intelektualne lastnine.)
Čeprav menite, da je v ZDA nadzor nad temi podjetji pomanjkljiv, tam vendarle obstaja določena raven nadzora in odgovornosti, ki je na Kitajskem povsem ni.
- V medijih se pogosto domneva, da gre za tekmovanje med ZDA in Kitajsko oziroma med nacionalnima državama, namesto za tekmovanje med odprtimi in zaprtimi modeli. Popolnoma vseeno mi je, ali odprtokodni model prihaja iz Kitajske ali ZDA, ker je odprt in ga je mogoče preverjati. Vsi vodilni igralci, ki jih kritiziram, pa razvijajo zaprte modele.
Ljudje iz akademskih krogov na tem področju so sčasoma začeli ustanavljati tudi lastna podjetja. Menite, da je to slab razvoj?
- Problematično postane, če gre za iste ljudi, ki zagotavljajo tudi financiranje. To je bil problem pri našem zagonskem podjetju: model financiranja s tveganim kapitalom in pritisk, da mora podjetje nenehno rasti ter čim prej postati dobičkonosno.
Če bi obstajala podjetja, ki bi se osredotočala na probleme, za katere menim, da jih je pomembno reševati, hkrati pa bi umetno inteligenco razvijala tako, da bi varovala človekovo avtonomijo, trajnost in podobne vrednote, bi takšno možnost z veseljem preučila. Ne mislim, da bi bila pri tem posebej koristna. Mislim, da mi bolj ustreza vloga novinarke.
Na koncu, kaj uporabljate, Claude ali ChatGPT?
- Nič od tega.
Res? Kaj je potem alternativa v vašem življenju?
- Ni je. Samo moj um.
Se vam ne zdi, da vas to omejuje?
- Pravzaprav me osvobaja.
.webp){kind=icon}
