Cenzura: Kako to počne Microsoft na Kitajskem

Spomladi leta 2021, tik pred 32. obletnico pokola na Trgu nebeškega miru, so uporabniki Microsoftovega iskalnika Bing v ZDA in Evropi opazili nekaj nenavadnega. Bing je nehal prikazovati znane fotografije tako imenovanega Tank Mana oziroma človeka, ki stoji pred tankom, osamljenega protestnika, ki je med prodemokratičnimi demonstracijami leta 1989 blokiral oklepno kolono. "Ni rezultatov za Tank Man," je iskalnik prikazal kot odgovor na iskalne poizvedbe. "Preverite zapis ali poskusite z drugimi ključnimi besedami."

Tiskovni predstavnik družbe Microsoft je za to okrivil "naključno človeško napako". Po navedbah treh poznavalcev pa je popolna razlaga, ki doslej še ni bila javno razkrita, da je Microsoft seznam prepovedanih izrazov, ki ga uporablja za kitajsko različico Binga, pomotoma uporabil za ves svet. Tako je nenamerno pokazal, da sodeluje s Pekingom, da bi kitajskim uporabnikom omogočil prilagojeno uporabo interneta.

Ameriška spletna podjetja se že dolgo soočajo z zapleti pri poslovanju na Kitajskem. Potem ko sta za ohranitev dostopa do velikega kitajskega trga sprejela pomembne kompromise glede vprašanj, kot je cenzura, sta Google in Yahoo! tam nehala uporabljati svoje iskalnike; Facebook, Snapchat in X (nekdanji Twitter) pa niso na voljo.

Bloomberg Businessweek

 

Microsoft je od leta 2009 še naprej uporabljal lokalno različico storitve Bing v skladu s pekinškimi zahtevami po cenzuri. Soustanovitelj Bill Gates že dolgo zagovarja tesno sodelovanje s Kitajsko, da bi spodbudil inovacije v zdravstvu in znanosti, in je zavrnil pomisleke o cenzuri in vplivu te države na tehnologijo. Gates je leta 2020 izstopil iz Microsoftovega upravnega odbora, a ni nehal obiskovati kitajskih voditeljev; junija 2023 se je srečal s predsednikom Xi Jinpingom, kar je bil njegov prvi obisk tujega podjetnika po več letih. Med srečanjem je Xi Gatesa označil za svojega starega prijatelja.

Satya Nadella, ki je zadnje desetletje glavni izvršni direktor Microsofta, se strinja z Gatesovimi stališči o koristnosti zagotavljanja internetnih storitev, tudi če to pomeni sodelovanje z avtoritarnimi vladami. Nadella in drugi vodilni v podjetju so prav tako zmanjšali pomen Microsoftovih dejavnosti na Kitajskem. Leta 2020 je predsednik Brad Smith dejal, da ta država zajema le 1,8 odstotka Microsoftove globalne prodaje.

Bloomberg Businessweek

 

Čeprav Microsoft ustvari le majhen delež svojih prihodkov na Kitajskem, lahko Bing pokaže realne znake napredka na tem območju. Po podatkih orodja za analizo spletnega prometa StatCounter je v petmesečnem obdobju leta 2023 in ponovno januarja letos kot najboljši namizni iskalnik prehitel vodilno podjetje na trgu, Baidu.

Microsoft je sklenil partnerstva z več deset tisoč kitajskimi podjetji v maloprodaji, proizvodnji, zdravstvu ter avtomobilski in energetski panogi. V članku v kitajskem jeziku na svojem spletnem mestu je leta 2022 zapisal, da ima s kitajskimi partnerji "simbiotičen odnos" in da je poslovanje na Kitajskem način zaposlovanja talentov in pridobivanja poslov, do katerih sicer ne bi imel dostopa. Septembra 2022 je vodja Microsofta za Kitajsko Yang Hou napovedal, da namerava število zaposlenih v podjetju povečati na več kot 10 tisoč. "Microsoft bo še naprej krepil svoje zaupanje in odločenost za razvoj na Kitajskem," je dejal.

Bloomberg Businessweek

 

Liu Pengyu, tiskovni predstavnik kitajskega veleposlaništva v Washingtonu, je v izjavi dejal, da je kitajski internet svoboden, odprt in urejen ter da pozdravlja delovanje tujih podjetij v državi. "Podjetja s tujimi naložbami na Kitajskem morajo spoštovati kitajske zakone in predpise, interese, kulturo in tradicijo širše javnosti ter prevzeti ustrezno družbeno odgovornost," je zapisal.

Upoštevanje takšnih smernic je vedno pomenilo nevarnost povračilnih ukrepov in vse večje napetosti med ZDA in Kitajsko, zlasti zaradi umetne inteligence, bi lahko pritisk še povečale.

Kritiki že leta trdijo, da je poslovanje Microsofta na Kitajskem v nasprotju z njegovo zavezanostjo človekovim pravicam in demokraciji. "To je razlog za razburjenost, to je nekaj nezaslišanega," pravi Yaqiu Wang, direktor raziskav za Kitajsko, Hongkong in Tajvan pri ameriškem možganskem trustu Freedom House. "Microsoft je eno največjih podjetij na svetu, je izjemno dobičkonosno in trdi, da podpira demokracijo ter človekove pravice. A delovanje podjetja na Kitajskem kaže ravno nasprotno."

Bloomberg Businessweek

 

Microsoft takšno mnenje zavrača. "Bing je najmanj cenzuriran iskalnik na Kitajskem in je pogosto edini dostopni vir številnih informacij, čeprav moramo v skladu s kitajsko zakonodajo izločiti nekatere rezultate," je v izjavi, poslani po elektronski pošti, dejal Frank Shaw, vodja komunikacij v Microsoftu. "Rezultat cenzuriramo le, če nas k temu zavezuje pravni red v ožjem smislu, cenzuro pa zavračamo, kadar menimo, da ni v skladu s pravilno razlago kitajskih pravil. Druga možnost je, da zapustimo trg, s čimer bi ljudem preprečili dostop do informacij, ki jih lahko dobijo le prek Binga." Podjetje pa ni odgovorilo na vrsto vprašanj o posameznih točkah v tem članku.

Več kot deset sedanjih in nekdanjih Microsoftovih zaposlenih je v intervjujih prvič omogočilo vpogled v tehnološko izpopolnjen sistem cenzure, ki ga je podjetje ustvarilo na Kitajskem in zajema seznam na tisoče prepovedanih spletnih strani, besed in besednih zvez. Zaposleni so želeli ostati anonimni, saj niso bili pooblaščeni za posredovanje informacij medijem.

Prepovedane besedne zveze, ki zajemajo iskanja v angleškem in kitajskem jeziku v kitajski različici storitve Bing (cn.bing.com), po navedbah zaposlenih in analizi Bloomberg Businessweeka vključujejo tudi tiste, ki se nanašajo na človekove pravice, podnebne spremembe na Kitajskem in Nobelovo nagrado za mir. Na seznamu prepovedanih so tudi izrazi, kot so korupcija v komunistični partiji, sklicevanje na pokol na Trgu nebeškega miru, Tank Man, Dalajlama, pokojni kitajski aktivist za človekove pravice in Nobelov nagrajenec za mir Liu Xiaobo ter demokracija. Uporabnikom, ki iščejo cenzurirano vsebino, se prikaže obvestilo, da so rezultati odstranjeni na podlagi obvestila o zahtevi lokalne zakonodaje.

Na Kitajskem Bing odstranjuje zahodna novičarska spletišča in Wikipedijo. Iskanja, povezana z domnevnimi zlorabami ujgurske etnične manjšine v kitajski regiji Xinjiang, ne vsebujejo podrobnosti o kršitvah človekovih pravic in koncentracijskih taboriščih; namesto tega so rezultati sestavljeni iz poročil državnih medijev, ki zanikajo zlorabe in obtožujejo zahodne vlade, da vodijo dezinformacijsko vojno proti Kitajski. Na voljo so tudi povezave do regijskih potovalnih vodnikov. Pri iskanju številnih drugih besednih zvez, uvrščenih na seznam prepovedanih, so na voljo rezultati s kitajskih vladnih spletnih strani ali spletnih strani državnih medijev, ki so bile uvrščene na "seznam dovoljenih", kar pomeni, da niso nikoli blokirane, kot pravijo zaposleni. Seveda so cenzurirani tudi rezultati iskanja o kitajski vladni cenzuri in tem, kako se ji izogniti.

Bloomberg Businessweek

 

Bing je na Kitajskem začel delovati 1. junija 2009. To je bilo tik pred 20. obletnico pokola na Trgu nebeškega miru in kitajska vlada je Microsoftu brez oklevanja pokazala, kako agresivna je pripravljena biti; nenadoma je blokirala dostop do iskalnika. To je sprožilo paniko v Microsoftovi ekipi na Kitajskem, ki se je bala, da so naredili tehnično napako, in poskušala ugotoviti, kaj je šlo narobe. "Pozneje je postalo jasno, da smo bili izključeni na ravni omrežja," se spominja eden od vodij, ki je sodeloval pri obvladovanju posledic. "Prometa na naši storitvi preprosto ni bilo."

Po številnih klicih med Microsoftovimi odvetniki in kitajskimi vladnimi uradniki so bile omejitve naslednji teden odpravljene in Bing je bil znova na voljo na spletu. Pri tem ni jasno, ali je Microsoft privolil v kakšen poseben dogovor. In ko se je Microsoft navadil na delovanje v takšnih razmerah, je Google obupal. To podjetje je svoj iskalnik na Kitajskem upravljalo od leta 2006 in ljudje – skupaj z vodstvom – so se zgražali, ko se je število oseb na seznamu prepovedanih povečalo s sto na tisoče. Januarja 2010 je Google po napadu na svojo infrastrukturo, za katerega je domneval, da je bil poskus pregona kitajskih disidentov, ki so uporabljali njegove storitve, napovedal umik iz države.

Soustanovitelj Sergej Brin je takrat v intervjuju dejal, da se je podjetje želelo postaviti po robu cenzuri in se zavzeti za svobodo političnega disidentstva, kar je bilo zanje ključno vprašanje. Dejal je, da je Google sprva upal, da bo pripomogel k napredku internetnih svoboščin, vendar se je zgodilo ravno nasprotno. Gates je kritiziral Googlovo odločitev iz leta 2010 in dejal, da so kitajska prizadevanja za cenzuro interneta "zelo omejena" in da bi imela vzpostavitev uspešnega interneta na Kitajskem pozitiven učinek. Pozneje je Google nameraval na Kitajskem ponovno ponuditi cenzuriran iskalnik, vendar si je premislil leta 2018, ko so bili predlogi javno objavljeni.

"Mislim, da je to zelo racionalna odločitev. Ali je prava za svobodo govora in podobno, pa je drugo vprašanje."

Bloomberg Businessweek

 

Microsoftova poslovna strategija za Bing je prikazovanje boljših rezultatov iskanja z manj oglaševalske navlake kot pri lokalnih konkurentih, trdijo zaposleni. Pravijo, da se je velika priložnost pojavila leta 2016, ko je bila smrt študenta povezana z eksperimentalnim zdravljenjem raka, ki ga je Baidu promoviral v svojem iskalniku. Regulatorji so podjetju Baidu odredili, naj odstrani oglase za vprašljive medicinske posege in jasno pokaže, kateri rezultati iskanja so oglasi. Po besedah Microsoftovih uslužbencev se je zaradi škandala povečalo število uporabnikov storitve Bing. Podjetje Baidu je nedavno doživelo več kritik zaradi spodbujanja podobnih oglasov, vendar trdi, da si prizadeva na svoji platformi na področju oglasov vzpostaviti red.

Kitajski vladni uradniki včasih obvestijo Microsoft, da so nekatere teme prepovedane, običajno tako, da se obrnejo na njegove odvetnike. Po besedah Microsoftovih zaposlenih lahko celo določijo, kaj je treba odstraniti.

Pa vendar je za Microsoft učinkovitejše, če deluje samostojno. Podjetje je sčasoma razvilo spretnost predvidevanja, kdaj bo Peking nasprotoval določenim vrstam vsebine. V poročilu, objavljenem aprila 2023, so raziskovalci iz laboratorija Citizen Lab Univerze v Torontu analizirali približno 500 tisoč cenzuriranih ključnih besed in imen v iskalnikih v državi. Ugotovili so, da Bing na splošno vsebine manj cenzurira kot Baidu, vendar je bil pri omejevanju dostopa do političnih in verskih vsebin agresivnejši kot Baidu.

Takšna samocenzura je preprosta poslovna odločitev, pravijo nekdanji Microsoftovi uslužbenci. "Če bi iskali 6/4, s katerim so ljudje označevali pokol na Trgu nebeškega miru, preprosto ne bi prikazali ničesar," pravi nekdanji vodilni, ki je sodeloval pri Bingu v času, ko so ga zagnali. "Precej preprosta poslovna odločitev je, da pretiravate s filtriranjem in ste zato varni. Mislim, da je to zelo racionalna odločitev. Ali je prava za svobodo govora in podobno, pa je drugo vprašanje."

Bloomberg Businessweek

 

Ko danes uporabnik Binga na Kitajskem vnese iskalno poizvedbo, je ta pred prikazom rezultatov preusmerjena prek strežnikov na kitajski celini. Ti uporabijo filter, ki onemogoči prikaz cenzurirane informacije. Gre za podoben postopek, kot ga uporabljata Microsoft in Google za spoštovanje zakonov v različnih državah o otroški pornografiji ali avtorskih pravicah. Razlika je v tem, kaj je blokirano.

Ta tehnologija cenzure se je oprla na sisteme strojnega učenja, ki analizirajo besedilo, slike in metapodatke ter pregledujejo spletne strani in ugotavljajo, ali morda kršijo lokalne zakone ali predpise, navajajo zaposleni. Pravijo tudi, da bo programska oprema za vsako stran ustvarila oceno, s katero bo določila njeno občutljivost.

Microsoft navaja, da ne uporablja avtomatizacije za prepoznavanje novih vsebin, ki jih je treba blokirati. Pregledovalci, strokovnjaki na lokalnem področju, sestavljajo seznam prepovedanih izrazov z dodajanjem ali odstranjevanjem vsebine in preverjajo vsebino, ki jo je označil samodejni sistem. Na Kitajskem za to skrbi majhna skupina inženirjev, ki so večinoma kitajski državljani. (Večina zaposlenih v Microsoftovih kitajskih pisarnah je lokalnih delavcev.) Cenzurno delo velja za zelo občutljivo in je v podjetju strogo varovano, pravijo zaposleni.

"Seznam tem se skozi čas spreminja," se spominja nekdanji inženir, ki je delal za Bing na Kitajskem. "Obstajajo občutljiva področja. Danes so iskalne poizvedbe za Medvedka Puja cenzurirane, ker se Medvedek Pu uporablja kot žaljiva referenca za Xi Jinpinga. Pred sedanjo vlado to ne bi bila težava. In take stvari bi morali vedeti."

Bloomberg Businessweek

 

Ne glede na posebnosti takšnih sprememb se seznam prepovedanih izrazov zaradi novosti skoraj vedno podaljša. Štirje nekdanji Microsoftovi uslužbenci, ki so delali za Bing, so neodvisno drug od drugega v obdobju osmih let izrazili zaskrbljenost nadrejenim in sodelavcem zaradi vse večjega obsega cenzure. Dva od zaposlenih sta se sklicevala na Microsoftovo izjavo o zavezanosti človekovim pravicam. Po tej je podjetje zavezano pomagati ljudem pri uporabi tehnologije za zaščito in spodbujanje demokracije, dobrega upravljanja in pravne države ter za zaščito in spodbujanje svobode mnenja, izražanja, združevanja, mirnega zbiranja in drugih človekovih pravic.

Zaposleni, ki so izrazili zaskrbljenost, pravijo, da jim je bilo rečeno, da mora podjetje za poslovanje na Kitajskem spoštovati tamkajšnje zakone. Kot odgovor na notranje in zunanje kritike dela v državi sta dva od zaposlenih navedla, da je vodstvo Microsofta opozorilo na izjavo o človekovih pravicah podjetja, objavljeno leta 2012. Ta je vsebovala standardno utemeljitev, ki jo navede vsako ameriško tehnološko podjetje, ki deluje v državah z avtoritarnimi vladami. "Podjetja lahko najučinkoviteje spoštujejo človekove pravice, če so prisotna v državah, ki pomenijo veliko tveganje za človekove pravice, in ne, če jih zapustijo," je zapisano v poročilu.

Microsoft je nekajkrat nasprotoval vladni cenzuri. Leta 2013 je podjetje prenehalo blokirati pošiljanje določenih besed v kitajski različici svoje storitve sporočanja Skype. Organi so jo prepovedali leta 2017. Leta 2021 je Microsoft onemogočil svojo kitajsko različico LinkedIna; skupine za človekove pravice so trdile, da je pogosto cenzuriral vsebine, kritične do kitajske vlade, in blokiral profile nekaterih novinarjev.

Podjetje pa ni pokazalo pripravljenosti, da bi podobno ukrepalo tudi pri storitvi Bing. Zaposleni domnevajo, da je razlog za to tesna povezanost Binga z drugimi izdelki. Vključen je na primer v začetni meni sistema Windows in je privzeti iskalnik v brskalniku Microsoft Edge, ki je nameščen v računalnikih Windows. Po navedbah zaposlenih je bil sistem Windows na Kitajskem nameščen od 300- do 500-milijonkrat; Microsoft ponuja celo posebno izdajo sistema Windows za kitajsko vlado.

Drugi dejavnik je verjetno pomen kitajskih tehničnih strokovnjakov za Microsoftove raziskave in razvoj, menijo zaposleni. To še posebno velja za Bing, saj velik del dela na iskalni platformi vodijo ekipe s sedežem na Kitajskem, ki zaposlujejo več tisoč ljudi in so največja Microsoftova razvojna ekipa v tujini. Ti kitajski inženirji imajo ključno vlogo pri vzdrževanju in razvoju globalne iskalne platforme Bing. V podjetju imajo tudi edinstven in protisloven položaj, saj razvijajo funkcije, ki so na Kitajskem prepovedane, drugje pa dostopne, kot je Bingovo orodje Copilot, ki ga poganja umetna inteligenca in je bilo delno razvito s pomočjo GPT-4 podjetja OpenAI.

Sodelovanje kitajskih delavcev pri naprednih projektih umetne inteligence postavlja Microsoft v nov ranljivi položaj. Tehnološki razvoj je bil za podjetje vedno globalna naloga, pri kateri morajo imeti razvijalci možnost svobodnega dela tudi zunaj državnih meja.

Geopolitika ta okvir še bolj obremenjuje, saj Peking in Washington tekmujeta v razvoju strateško pomembne umetne inteligence. Januarja je New York Times poročal, da so se ameriški uradniki z Microsoftom pogovarjali, ali naj podjetje še naprej upravlja laboratorij za umetno inteligenco na Kitajskem. Podjetje je sporočilo, da v laboratoriju izvajajo zaščitne ukrepe, vendar ni zagotovila, da bodo ti za vedno pomirili pomisleke Washingtona. Ameriški oblikovalci politik so kritični do kitajskega stanja na področju človekovih pravic, za vse večjo skupino zagovornikov tako imenovane trde linije pa je skoraj vsakršno sodelovanje s kitajskimi subjekti grožnja nacionalni varnosti ZDA.

V javnih komentarjih v Davosu v Švici je Nadella januarja letos predstavil delovanje podjetja na Kitajskem kot način spodbujanja interesov ZDA in dejal, da nekako preusmerjajo kitajsko strokovno znanje v ustvarjanje ameriške tehnologije. "Prav tako želimo izkoristiti človeški kapital po vsem svetu, da bi lahko prispevali k ameriški intelektualni lastnini," je dejal. "Kar zadeva članke o strojnem učenju, jih je toliko napisanih v mandarinščini kot v angleščini."

Prav tako je opisal delovanje svojega podjetja na Kitajskem kot način spodbujanja odprtosti. "Zgodovina uči, da civilizacija ali družba naredi najhujšo napako, če se zapre pred znanjem, ki se rojeva drugje."

Nadella v teh komentarjih ni neposredno obravnaval lokalne cenzure Binga, kritiki pa opozarjajo, da je kitajski primer že zgled drugim vladam, ki želijo svoje prebivalstvo odrezati od politično neprimernih informacij. Indija na primer posnema nekatere elemente kitajske internetne politike. Rusija je od Microsofta zahtevala, naj s platform, kot je Bing, odstrani na tisoče vsebin, vključno s povezavami do opozicijskih političnih in novičarskih spletišč, kar je podjetje pogosto upoštevalo, so povedali zaposleni.

Microsoft pravi, da ko odstrani vsebino na Kitajskem, tega ne naredi tudi za preostali svet, vendar pa lahko neliberalna uporaba tehnologije, kot se je leta 2021 pokazalo v primeru človeka, ki stoji pred tankom, prečka meje. Maja 2022 so raziskovalci iz podjetja Citizen Lab ugotovili, da je funkcija samodejnih predlogov v storitvi Bing cenzurirala politično občutljiva kitajska imena in teme za ljudi, ki uporabljajo njegov iskalnik na mednarodni ravni, tudi v ZDA in Kanadi. "Zdi se neizogibno, da če cenzurirate eno demografsko skupino uporabnikov," pravi Jefferey Knockel, višji raziskovalni sodelavec pri Citizen Labu, "ne morete hkrati omogočiti svobode govora drugi."

Ilustracija: Xinmei  Liu

Trenutno ni komentarjev za novico. Bodi prvi, ki bo komentiral ...

Pusti komentar