ChatGPT ne krade podatkov, podjetja mu jih predajajo sama

Alex Karp, direktor podjetja Palantir, je za CNBC izjavil, da podjetja "porabljajo čas in denar za tokene, pogosto ne da bi dobila kakršno koli vrednost, medtem ko jim podjetja z umetno inteligenco jemljejo intelektualno lastnino". Delnice Palantirja so še istega dne poskočile za devet odstotkov, čeprav prav njegovo podjetje prodaja platforme, ki kot rešitev za problem, na katerega opozarja Karp, obljubljajo nadzor nad podatki. Njegova izjava se je hitro razširila po spletu, saj zadeva dilemo, ki si jo mora zastaviti vsako podjetje, ki uporablja ChatGPT ali Claude: ali s tem svoje poslovne skrivnosti uporablja za hranjenje tujih modelov.

Karp je problem iskal na napačnem naslovu

Fortune je preveril Karpove trditve in ugotovil, da so večinoma netočne ali protislovne. Vodilni ponudniki umetne inteligence v skladu s pogodbenimi določili podatkov poslovnih uporabnikov ne uporabljajo za treniranje modelov, razen če podjetje v to izrecno privoli. Nobena pogodba s ponudnikom umetne inteligence pa podjetja ne more zaščititi pred zaposlenim, ki zaupni dokument kopira na osebni račun in ga uporabi po lastni presoji.

Podobne kritike v zadnjih mesecih iz drugega zornega kota izreka tudi Satya Nadella, direktor Microsofta. Dvomi o razmerju med ceno AI-tokenov in poslovno vrednostjo, ki jo podjetja z njihovo uporabo dejansko dobijo. Pravo tveganje pa se skriva povsem drugje.

Po raziskavi varnostnega podjetja Zscaler je bil samo ChatGPT lani povezan z več kot 410 milijoni kršitev internih pravil o varovanju podatkov. Do tega je prišlo izključno zato, ker so zaposleni sami vnašali zaupne informacije v javno dostopna orodja umetne inteligence, ne da bi razmišljali, kako bodo ti podatki pozneje uporabljeni.

Zaposleni pogosto uporabljajo osebne račune, ker podjetja niso pripravljena plačati dražjih licenc Enterprise oziroma API. Zato iz navade uporabljajo brezplačne ali zasebne račune, pri katerih se podatki privzeto lahko delijo. To je tudi napaka podjetij, saj ne razumejo potreb svojih zaposlenih.

Tipičen primer je videti povsem nedolžen. Programer kopira del izvorne kode, da bi mu AI pojasnil napako. Odvetnik vnese osnutek pogodbe, da bi dobil predloge za boljše formulacije. Komercialist prilepi Excelovo tabelo s cenami in maržami, da bi pripravil poročilo za sestanek. Marketinška ekipa vnese načrt lansiranja novega izdelka, da bi dobila ideje za kampanjo.

V večini primerov je cilj prihraniti nekaj minut dela, ne pa namerno kršiti pravil podjetja. Če podjetje nima jasnih pravil o tem, kateri podatki smejo zapustiti njegov informacijski sistem in kateri ne, pa prav zaposleni postanejo največje varnostno tveganje.

Regija šele vstopa v to fazo

Ameriška podjetja o pravilih razpravljajo po več letih množične uporabe generativne umetne inteligence. Naša regija šele dela prve korake, kar je v tem primeru tudi prednost, saj lahko ustrezne procese vzpostavi že na začetku.

Po raziskavi ICT Huba in Srbske zveze menedžerjev, izvedeni na vzorcu 157 podjetij, umetno inteligenco uporablja le 34 odstotkov podjetij v Srbiji. Kot glavne ovire podjetja navajajo visoke stroške in pomanjkanje internega strokovnega znanja, medtem ko je varnost podatkov šele v drugem planu.

Podatek, da ima 85 odstotkov velikih podjetij strategijo za umetno inteligenco, ustvarja lažno sliko. Večinoma gre za dokumente, ki jih je pripravil zunanji svetovalec, medtem ko je dejanska uporaba AI v poslovnih procesih bistveno manjša.

Hkrati naj bi prvo regionalno raziskavo o vplivu umetne inteligence na zaposlene in podjetja, ki sta jo v Srbiji, na Hrvaškem, v Bosni in Hercegovini, Severni Makedoniji in Črni gori začela izvajati HeartCount in Joberty, šele pokazalo, koliko organizacij ima sploh opredeljena pravila za uporabo orodij umetne inteligence.

Obramba se začne pred prvim vprašanjem

Varovanje podatkov se ne začne z izbiro med ChatGPT in Claudeom, temveč z odločitvijo, kdo sme uporabljati umetno inteligenco, prek katerega računa in s katerimi podatki.

Večja podjetja lahko uvedejo tudi sistem DLP (Data Loss Prevention oziroma preprečevanje izgube podatkov), ki prepoznava zaupne informacije ter preprečuje njihovo kopiranje ali pošiljanje v neodobrene storitve umetne inteligence. Microsoft na primer že omogoča blokiranje vnosa občutljivih podatkov v potrošniške različice ChatGPT in druga orodja umetne inteligence.

Če se uporabljajo osebni računi, lahko posamezniki izklopijo možnost "Improve the model for everyone" oziroma "Izboljšaj model za vse uporabnike", po čemer se novi pogovori ne uporabljajo za treniranje modela. Uporabniki Clauda lahko izklopijo dovoljenje za uporabo pogovorov za izboljšanje modela in izbrišejo stare pogovore, ki se nato iz sistema odstranijo v največ 30 dneh, z izjemami, povezanimi z varnostjo in zakonskimi obveznostmi.

Čeprav obstajajo sumi, da OpenAI in Anthropic "kradeta" intelektualno lastnino, je pomembneje, da direktorji podjetij razumejo, kaj njihovi zaposleni vsak dan vnašajo v orodja umetne inteligence, ali uporabljajo osebni ali službeni profil ter kakšno raven dostopa do podatkov so dovolili orodjem umetne inteligence.

Ker umetno inteligenco v regiji v povprečju uporablja šele tretjina podjetij, imamo še vedno priložnost, da pravila postavimo na začetku. Ameriške korporacije se te lekcije zdaj učijo precej dražje, po letih nenadzorovane uporabe umetne inteligence.