Umetno inteligenco učijo prezaposleni, podplačani in razočarani delavci

Googlov klepetalni robot z umetno inteligenco Bard bo na vprašanje, koliko pand živi v živalskih vrtovih, odgovoril hitro in z veliko mero samozavesti.

Za to, da je odziv dobro pripravljen in temelji na dokazih, skrbi na tisoče zunanjih izvajalcev iz podjetij, kot sta Appen in Accenture, ki lahko zaslužijo le 14 dolarjev na uro in delajo z minimalnim usposabljanjem ob tesnih časovnih rokih, pravi več izvajalcev, ki zaradi strahu pred izgubo službe niso želeli biti imenovani.

Tehnološka podjetja se pri razvoju zanašajo na dejanske ljudi

Izvajalci so nevidna hrbtna stran razmaha generativne umetne inteligence, ki naj bi spremenila vse. Klepetalni roboti, kot je Bard, uporabljajo računalniško inteligenco za skoraj hipno odgovarjanje na različne poizvedbe, ki zajemajo vse človeško znanje in ustvarjalnost. Da bi izboljšali te odgovore in jih lahko vedno znova zanesljivo posredovali, pa se tehnološka podjetja zanašajo na dejanske ljudi, ki pregledujejo odgovore, posredujejo povratne informacije o napakah in odpravljajo morebitne zametke pristranskosti.

To je vse bolj nehvaležno delo. Šest sedanjih Googlovih pogodbenih delavcev je povedalo, da sta se v zadnjem letu, ko se je podjetje podalo v tekmo z umetno inteligenco s konkurenčno organizacijo OpenAI, obseg njihovega dela in zapletenost nalog povečala. Brez posebnega strokovnega znanja in izkušenj so jim zaupali ocenjevanje odgovorov na različne teme, od odmerkov zdravil do državnih zakonov. Dokumenti, ki so bili posredovani Bloombergu, prikazujejo zapletena navodila, ki jih morajo delavci uporabljati pri nalogah z roki za preverjanje odgovorov, ki so lahko kratki le tri minute.

"V trenutnem stanju so ljudje prestrašeni, pod stresom, premalo plačani in ne vedo, kaj se dogaja," je dejal eden od izvajalcev. "In ta kultura strahu ne pripomore k doseganju kakovosti in timskega dela, ki si ga želite od vseh nas."

Google se predstavlja kot boljši od konkurence zaradi dostopa do 'širine svetovnega znanja'

Google je svoje izdelke umetne inteligence predstavil kot javne vire s področij zdravstva, izobraževanja in vsakdanjega življenja. Vendar so izvajalci zasebno in javno izrazili zaskrbljenost zaradi svojih delovnih pogojev, ki po njihovem mnenju škodujejo kakovosti tega, kar vidijo uporabniki. Eden od Googlovih pogodbenih uslužbencev, ki dela za Appen, je maja v pismu kongresu ocenil, da bi lahko hitrost, s katero morajo pregledovati vsebino, povzročila, da bi Bard postal "napačen" in "nevaren" izdelek.

Bloomberg

Google je umetno inteligenco v podjetju postavil za pomembno prednostno nalogo in je po novembrski uvedbi storitve ChatGPT podjetja OpenAI pohitel z uvajanjem nove tehnologije v svoje vodilne izdelke. Maja je Google na letni konferenci za razvijalce I/O odprl aplikacijo Bard za 180 držav in ozemelj ter razkril eksperimentalne funkcije umetne inteligence v najpomembnejših storitvah, kot so iskanje, e-pošta in Google Docs. Google se predstavlja kot boljši od konkurence zaradi dostopa do "širine svetovnega znanja".

"Za odgovorno izdelavo naših izdelkov umetne inteligence opravljamo obsežno delo, vključno s strogimi postopki testiranja, usposabljanja in povratnih informacij, ki smo jih izpopolnjevali več let, da bi poudarili faktičnost in zmanjšali pristranskost," je Google, ki je v lasti družbe Alphabet, dejal v izjavi. Podjetje je sporočilo, da se pri izboljšanju umetne inteligence ne zanaša le na ocenjevalce in da obstajajo številne druge metode za izboljšanje njene natančnosti in kakovosti.

Analiza odgovorov glede specifičnosti, svežine informacij in skladnosti

V času priprav na javno uporabo teh izdelkov so delavci že januarja začeli dobivati naloge, povezane z umetno inteligenco. Eden od inštruktorjev, zaposlen pri Appenu, je moral pred kratkim primerjati dva odgovora z informacijami o najnovejših novicah o floridski prepovedi zdravstvene oskrbe ob spremembi spola ter odgovore oceniti glede na koristnost in ustreznost. Delavci so pogosto tudi naprošeni, da ugotovijo, ali odgovori modela umetne inteligence vsebujejo preverljive dokaze. Ocenjevalci se morajo odločiti, ali je odgovor koristen, na podlagi šeststopenjskih smernic, ki vključujejo analizo odgovorov glede specifičnost, svežino informacij in skladnost.

Prav tako morajo preveriti, ali odgovori "ne vsebujejo škodljivih, žaljivih ali preveč spolnih vsebin" in "ne vsebujejo netočnih, zavajajočih ali zavajajočih informacij". Pregled odgovorov umetne inteligence glede zavajajoče vsebine mora "temeljiti na vašem trenutnem znanju ali hitrem spletnem iskanju", je navedeno v smernicah. "Pri ocenjevanju koristnosti odgovorov vam ni treba temeljito preveriti dejstev."

Orodja dajejo vtis, da podajajo podrobnosti, ki so pravilne, vendar niso

Primer odgovora na vprašanje Kdo je Michael Jackson? je vseboval netočnost o pevčevi vlogi v filmu Moonwalker, za katerega je umetna inteligenca trdila, da je bil izdan leta 1983. Film je dejansko izšel leta 1988. "Čeprav je to dejstvo preverljivo napačno," je navedeno v smernicah, "je v kontekstu odgovora na vprašanje Kdo je Michael Jackson? nepomembno."

Čeprav se zdi netočnost majhna, "je še vedno skrb zbujajoče, da klepetalni robot napačno navaja glavna dejstva", je dejala Alex Hanna, direktorica raziskav pri Distributed AI Research Institute in nekdanja Googlova sodelavka za vprašanja etike pri umetni inteligenci. "Zdi se, da je to recept za poslabšanje načina, kako bodo ta orodja videti, kot da podajajo podrobnosti, ki so pravilne, vendar niso," je dejala.

Ocenjevalci pravijo, da ocenjujejo teme, ki so za Googlove izdelke umetne inteligence zelo pomembne. Eden od primerov v navodilih na primer govori o dokazih, ki bi jih ocenjevalec lahko uporabil za določitev pravilnih odmerkov zdravila za zdravljenje visokega krvnega tlaka, imenovanega Lisinopril.

Google je dejal, da nekateri delavci, ki so skrbeli za točnost vsebine, morda niso bili posebej usposobljeni za točnost, temveč za ton, predstavitev in druge lastnosti, ki jih preverja. "Ocene se namerno izvajajo na drsni lestvici, da bi dobili natančnejše povratne informacije za izboljšanje teh modelov," je dejalo podjetje. "Takšne ocene ne vplivajo neposredno na rezultate naših modelov in nikakor niso edini način, s katerim spodbujamo natančnost."

V Keniji plačani 2 dolarja na uro

Ed Stackhouse, Appnov delavec, ki je poslal pismo kongresu, je v intervjuju dejal, da so bili pogodbeni delavci naprošeni, da opravljajo delo označevanja umetne inteligence pri Googlovih izdelkih, "ker smo za umetno inteligenco nepogrešljivi, kar zadeva to usposabljanje". Vendar on in drugi delavci trdijo, da so bili za svoje delo ocenjeni na skrivnosten, avtomatiziran način. Z Googlom nimajo možnosti neposredne komunikacije razen posredovanja povratnih informacij v zapisu 'komentarji' pri vsaki posamezni nalogi. In delovati morajo hitro. "Nadzoruje nas vrsta umetne inteligence, ki nam sporoča, naj si ne vzamemo časa za umetno inteligenco," je dodal Stackhouse.

Tudi druga tehnološka podjetja, ki usposabljajo izdelke z umetno inteligenco, najemajo človeške izvajalce za njihovo izboljšanje. Januarja je Time poročal, da so delavci v Keniji, plačani po 2 dolarja na uro, delali pri projektu, da bi ChatGPT postal manj strupen. Drugi tehnološki velikani, med njimi Meta, Amazon in Apple, uporabljajo podizvajalce za moderiranje vsebin družbenih omrežij in ocen izdelkov ter za zagotavljanje tehnične podpore in storitev za stranke.

"Če se želite vprašati, kaj je skrivna omaka podjetij Bard in ChatGPT? To je ves internet. In to so vsi ti označeni podatki, ki jih ustvarjajo ti označevalci," je dejala Laura Edelson, računalniška znanstvenica na Univerzi v New Yorku. "Ne smemo pozabiti, da ti sistemi niso delo čarovnikov – so delo na tisoče ljudi in njihovega nizko plačanega dela."

Preglejujejo posnetke vojne, otroške pornografije in sovražnega govora

Google je v izjavi zapisal, da "preprosto ni delodajalec nobenega od teh delavcev. Naši dobavitelji kot delodajalci določajo njihove delovne pogoje, vključno s plačilom in ugodnostmi, delovnim časom in dodeljenimi nalogami ter spremembami zaposlitve, ne Google."

Zaposleni so povedali, da so se pri svojem rutinskem delu pri ocenjevanju kakovosti Googlovih izdelkov in storitev srečali z bestialnostjo, posnetki vojne, otroško pornografijo in sovražnim govorom. Čeprav imajo nekateri delavci, na primer tisti, ki so poročali podjetju Accenture, zdravstvene ugodnosti, ima večina le minimalne možnosti "svetovalnih storitev", ki delavcem omogočajo, da pokličejo na telefonsko številko za nasvet o duševnem zdravju, je razvidno z interne spletne strani, ki pojasnjuje nekatere ugodnosti izvajalcev.

Pri Googlovem projektu Bard so bili zaposleni pri Accenturu naprošeni, da za klepetalnega robota z umetno inteligenco napišejo kreativne odgovore, so povedali zaposleni. Odgovorili so na pozive klepetalnega robota – nekega dne so na primer morali napisati pesem o zmajih v Shakespearovem slogu, drugega dne pa so lahko odpravljali napake v računalniški programski kodi. Njihova naloga je bila, da vsak delovni dan vložijo čim več ustvarjalnih odgovorov na pozive, so povedale osebe, ki so bile seznanjene z zadevo in niso želele biti imenovane, ker niso bile pooblaščene za razpravljanje o notranjih procesih.

Odpuščeni zaradi sindikalnega organiziranja?

Za kratek čas so bili delavci prerazporejeni na pregledovanje nespodobnih, nazornih in žaljivih pozivov, so povedali. Potem ko je eden od delavcev vložil kadrovsko pritožbo pri družbi Accenture, je bil projekt za ameriško ekipo nenadoma prekinjen, čeprav so nekateri sodelavci piscev v Manili še naprej sodelovali pri projektu Bard.

Ta delovna mesta niso zelo varna. Prejšnji mesec je pol ducata Googlovih pogodbenih uslužbencev, ki so delali za Appen, prejelo obvestilo vodstva, da so bila njihova delovna mesta ukinjena "zaradi poslovnih razmer". Delavci so povedali, da je bila odpustitev nenadna, saj so pravkar prejeli več elektronskih sporočil, v katerih so jim ponujali nagrade za daljše delo pri usposabljanju izdelkov umetne inteligence. Šest odpuščenih delavcev je junija vložilo pritožbo pri nacionalnem odboru za delovna razmerja. Trdili so, da so bili nezakonito odpuščeni zaradi organiziranja, ker je Stackhouse pisal kongresu. Pred koncem meseca so bili ponovno zaposleni.

Google je dejal, da je spor stvar med delavci in podjetjem Appen ter da "spoštuje delavske pravice Applovih zaposlenih, da se pridružijo sindikatu". Podjetje Appen ni odgovorilo na vprašanja o organiziranju svojih delavcev. Sindikat delavcev družbe Alphabet – ki je organiziral tako Googlove zaposlene kot pogodbene delavce, vključno s tistimi v podjetjih Appen in Accenture – je dejal, da obsoja, kako so nove delovne obremenitve v zvezi z umetno inteligenco še dodatno otežile delovne pogoje delavcev.

Ne vedo, kam gredo njihove povratne informacije

Emily Bender, profesorica računalniškega jezikoslovja na Univerzi v Washingtonu, je dejala, da je delo teh pogodbenih uslužbencev pri Googlu in drugih tehnoloških platformah "zgodba o izkoriščanju delavcev", in opozorila na njihovo negotovo varnost zaposlitve in na to, da so nekateri tovrstni delavci plačani precej pod življenjskim standardom. "Če se igrate z enim od teh sistemov in rečete, da to počnete samo za zabavo – morda se vam to zdi manj zabavno, če pomislite, kaj vse je bilo potrebno za njegovo ustvarjanje in kakšen vpliv ima to na ljudi," je dejala Bender.

Pogodbeni delavci so povedali, da od Googla nikoli niso prejeli neposredne komunikacije o svojem novem delu, povezanem z umetno inteligenco – vse je bilo filtrirano prek njihovega delodajalca. Dejali so, da ne vedo, od kod prihajajo odgovori, ki jih ustvarja umetna inteligenca, in kam gredo njihove povratne informacije. Zaradi pomanjkanja teh informacij in nenehno spreminjajoče se narave njihovega dela jih skrbi, da pomagajo ustvarjati slab izdelek.

Povezava med ChatGPT in Bardom?

Nekateri odgovori, s katerimi se srečujejo, so lahko bizarni. V odgovoru na poziv: "Predlagajte najboljše besede, ki jih lahko sestavim iz črk: k, e, g, a, o, g, w," je eden od odgovorov, ki ga je ustvarila umetna inteligenca, naštel 43 možnih besed, začenši s predlogom št. 1: "wagon". Predlogi od 2 do 43 pa so vedno znova ponavljali besedo "WOKE".

Pri drugi nalogi je bil ocenjevalcu predložen dolg odgovor, ki se je začel z besedami: "Po mojem vedenju, ki se konča s septembrom 2021." Ta odgovor je povezan z velikim jezikovnim modelom družbe OpenAI, imenovanim GPT-4. Čeprav je Google dejal, da Bard "ni usposobljen na podatkih iz ShareGPT ali ChatGPT", so se ocenjevalci spraševali, zakaj se takšni stavki pojavljajo v njunih nalogah.

Bender je dejala, da ni smiselno, da velike tehnološke korporacije spodbujajo ljudi, naj klepetalnemu robotu umetne inteligence zastavljajo vprašanja o tako širokem naboru tem, in da jih predstavljajo kot "stroje za vse".

"Zakaj bi vam isti stroj, ki vam lahko poda vremensko napoved na Floridi, lahko svetoval tudi glede odmerkov zdravil?" je vprašala. "Ljudje za strojem, ki so zadolženi za to, da ga v nekaterih od teh okoliščin naredijo manj groznega, imajo nemogoče delo."

Prevedel Urban Červek

Trenutno ni komentarjev za novico. Bodi prvi, ki bo komentiral ...

Pusti komentar