Džeroski, IJS: 'Umetna inteligenca je močno orodje. Vedno močnejše'

Ploščad pred Fakulteto za računalništvo in informatiko na Večni poti v Ljubljani je v petek nekoliko spominjala na avlo kakšnega mednarodnega letališča. Ljudje različnih ras in starosti (ter slogov oblačenja) so klepetali, pili kavo, počivali na stolih in ležalnikih. Nekateri so klepetali po telefonih, drugi so bili zatopljeni v svoje prenosne računalnike. Živahno je bilo tudi v prostorih fakultete – udeleženci poletne šole umetne inteligence so hiteli sem in tja v številne predavalnice, v katerih so se odvijala predavanja in delavnice.

Na zadnji dan celotedenskega dogodka, evropske poletne šola umetne inteligence (ESSAI) ter napredna poletna šolo umetne inteligence (ACAI) smo govorili s profesorjem Sašom Džeroskim, vodjo Odseka za tehnologije znanja na Inštitutu Jožef Stefan in podpredsednikom programskega odbora poletne šole.

Sogovornik ni skrival zadovoljstva nad uspehom dogodka. Zanimanje udeležencev je za nekajkrat preseglo kapacitete, razprodana so bila vsa mesta za spremljanje šole v živo – udeležencev je bilo več kot petsto, ostali so lahko predavanja in delavnice spremljali na daljavo. Med predavatelji so bili najboljši raziskovalci iz svetovno priznanih univerz (Cambridge, Oxford, Stanford, Yale, KU Leuven, Sapienza), raziskovalnih inštitutov in podjetij (Google DeepMind, Microsoft Research, VMware).

Povedali ste, da je tema napredne šole umetne inteligence "Umetna inteligenca in znanost". Kako umetna inteligenca pomaga znanstvenikom?

To je vedno bolj vroča tematika. Gre za pomoč znanstvenikom, pa tudi avtomatizacijo znanstvenih poskusov. Na primer v farmaciji, kjer laboranti delajo poskuse na določenih molekulah, sedaj pa se postopek avtomatizira in se poskusi izvajajo avtomatsko, vzporedno, na stotinah, tisočih spojinah, ki se jih preverja za njihovo učinkovitost za določeno bolezen.

V naslednji stopnji se računalniki na podlagi umetne inteligence sami odločajo, katere poskuse bodo naredili, katere spojine bodo naslednje preverili, glede na dosedanje rezultate. Strojno učenje torej napove izide poskusa in nato na podlagi tega najbolj obetavne poskuse tudi izvede in preveri, če bi bila tista spojina res najbolj primerno zdravilo.

To se zdi na meji znanstvene fantastike, kjer stroj napove izid in nato sam svojo napoved s poskusom tudi preveri.

Ampak to se dogaja. Mi v Ljubljani na področju avtomatiziranja znanosti delamo že zelo dolgo, bili smo celo nekoliko pred svojim časom, a se ni veliko vedelo o našem delu. Sedaj pa to področje postaja mainstream. Zato smo to tematiko izbrali za napredno šolo umetne inteligence.

Omenili ste avtomatizacijo laboratorijskega dela, raziskovanja v medicini in farmaciji. Ljudi skrbi, da bo umetna inteligenca nadomestila njihovo delo. To se torej dogaja, kot v opisanem primeru dela laboratorijskih tehnikov. Kaj vi mislite o tem?

Svet se bo zagotovo spremenil. Sveta ne moremo ustaviti, Zemlja se bo še naprej vrtela, stvari bodo šle naprej, nekateri poklici bodo izginili, nekateri se bodo pojavili. Gledati je treba celoto. S temi orodji v celoti bomo ljudje kot družba lahko naredili več in boljše. Pač ne bo mogel vsakdo delati še leta to, kar je delal do sedaj. Stvari se bodo spreminjale, delati bo treba drugače. To še ne pomeni, da bo zaradi tega slabše. Skupni produkt teh tehnologij bo dvignil nivo družbene blaginje. Kako se bo družba, človeštvo dogovorilo o razporeditvi materialnih dobrin, ki bodo zaradi tega nastale, pa je druga zgodba. Je vprašanje družbene organizacije, politike. Na to temo si ne upam reči ničesar.

Dejansko bodo ljudje v sodelovanju z umetno inteligenco delali več stvari, boljše stvari, bolj zanimive. Glede avtomatizaciji znanosti menim, da bo prišlo do sodelovanja ljudi in strojev. Vsak bo naredil to, kar naredi boljše in je s tem celotni produkt boljši. Kot je rekel eden od udeležencev panela, "saj ne bomo dali vsega strojem za delati, saj moramo nekaj delati tudi mi in se pri tem zabavati". Znanost je namreč poklic, kjer je intelektualna stimulacija maksimalna, zadoščenje pa zelo veliko, kljub intenzivnemu delu.

Urban Červek

Že danes ima računalnik zelo velike prednosti pred ljudmi, pa smo to sprejeli. Na primer računalnik zna računati na ne vem koliko decimalk in številk, pa se zaradi tega nič ne razburjamo. Včasih je gotovo koga to motilo. Mislim, da se bo podobno zgodilo z novimi funkcionalnostmi, ki jih umetna inteligenca prinaša. Morali bomo to sprejeti se naučiti z njo delati. Ključno bo izobraževanje, da se ljudje s temi napredki seznanijo. Realistično, ne preko filmov, kjer Arnold Schwarzenegger postreli kup ljudi.

Umetna inteligenca bo gotovo marsikomu spremenila življenje, hkrati pa ima potencial, da reši probleme, ki jih človeštvo ne rešuje preveč učinkovito. Poskrbeti moramo, da bo umetna inteligenca uporabljena za reševanje pravih problemov, podnebnih sprememb, prehranske varnosti, zdravja posameznikov, epidemiologije.

Google in Facebook z umetno inteligenco ne rešujeta teh perečih problemov človeštva. Ves intelektualni kapital, vsi ti možgani, ki delalo za ta podjetja, razvijajo pristope k oglaševanju, da človeka kar najbolj zasvojijo in kar največ časa porabi na Facebooku, da vidi kar največ oglasov. To niso pravi problemi! Pravi problemi so podnebne premembe, prehrana, zdravstvo. Tega raziskovalci sami ne moremo rešiti. Družba mora usmeriti napore v smer iskanja rešitev, da se vpreže umetna inteligenca v reševanje teh problemov.

Ljudje so izjemno kritični do umetne inteligence, veliko bolj, kot do soljudi. Je že v redu, da imamo visoke standarde, ampak zavedati se je treba perspektive. Če je avto z umetno inteligenco povozil človeka, se moramo vprašati, koliko ljudi pa so povozili pijani vozniki? Saj ne rečem, da moramo pustiti avtomatskim voznikom, da bodo lahko povozili babice in otroke, ampak se moramo zavedati, kakšna je širša slika, koliko je smrtnih žrtev zaradi človeških voznikov.

Najbrž je razlog za to strahu pred neznanim, novim. In po drugi strani hitrosti, s katero te tehnologije prihajajo. Družba se težko tako hitro prilagaja, kar ustvarja strahove, tesnobo.

To je dejstvo, razvoj je izjemno hiter. V Sloveniji smo nekoč imeli prednost, saj smo se z raziskovanjem umetne inteligence pri nas začeli ukvarjati relativno zgodaj. Lani je bila 50. letnica raziskovanja umetne inteligence v Sloveniji in 30. letnica društva za umetno inteligenco. Mi imamo dobre raziskave, imamo ugled v svetu, nenazadnje imamo zaradi tega dogodek v Ljubljani, saj smo prepoznani na svetovnem zemljevidu.

Vendar sedaj, v tem ključnem trenutku, ko ves svet s tovornjaki meče denar v umetno inteligenco, ni naredila Slovenija ničesar. Sprejela je nacionalno strategijo za umetno inteligenco, ker je tako velevala EU in ta je sedaj v predalu. Čas pa teče. Strategija predvideva tudi širše izobraževalne ukrepe, od univerze do osnovne šole in tudi družbe širše. Največji problem je človeški kapital. V kritičnem obdobju ni bilo vlaganja v to področje, zato smo izgubili številne strokovnjake, ki so šli delati za industrijo, ampak ne slovensko industrijo. Sedaj, po covidu, je mogoče delati od koderkoli. Ti ljudje so torej še vedno v Ljubljani, še vedno jih srečujem, s kom grem tudi na kavo, ampak iz Slovenije delajo za tuja podjetja. Niso del slovenskega gospodarstva.

To je verjetno proces, ki se mu ni mogoče izogniti?

Konkretno se lahko ukrepa tako, da se investira v to področje. Da se ustvarja več kadra, ki je kompetenten na področju umetne inteligence. To se dogaja v procesu raziskovanja in izobraževanja. Biti je treba tam, kjer se znanje ustvarja. Gre za celotno verigo, od vrhunskih raziskav, podoktorskega izobraževanja, visokošolsko izobraževanje in navzdol proti srednji in osnovni šoli. Nam je zmanjkalo ogromno ljudi tam, kjer se znanje ustvarja. Rad delam primerjavo z Belgijo, ki jo dobro poznam, saj imamo tesne stike. Belgija ni toliko večja od Slovenije. Flamski del države je veliko investiral v doktorsko in podoktorsko izobraževanje, spodbujali so tudi prenos znanja v industrijo, spodbujali so izobraževalne programe. Nič od tega v Sloveniji ni bilo. Saj mi smo seveda še vedno na svetovnem zemljevidu, Slovenija se rada pohvali z nami in prav je tako. Ampak nam zmanjkuje sape, krvavimo. Rana se sicer lahko pokrpa, ampak če izgubiš veliko krvi, ti ne kaže najboljše.

Katera področja umetne inteligence so trenutno najbolj aktualna, vroča? Na splošno se sedaj v javnosti največ govori o pametnih klepetalnih robotih, kot je Chat GPT, ki so v zadnjega pol leta pokazali, kaj zmorejo.

Seveda, marsikdo je sedaj slišal za ChatGPT in marsikdo ga je tudi uporabil. Ampak tovrstni pristopi imajo tudi svoje težave, o katerih se ne govori veliko. Ena je zasebnost podatkov. Karkoli uporabnik vnese v ChatGPT, bo le-ta uporabil za izboljšanje svojega delovanja. Vse, kar si povedal ChatGPT, je shranjeno nekje v ZDA. In če si sistemu povedal kaj bolj zaupnega .. kaj to briga Open AI!? Ti kot uporabnik si kliknil na privolitev, da se tvoji podatki uporabijo za izboljšanje ChatGPT.

Poleg tega zna biti ChatGPT rasističen, kakšno stvar si tudi izmisli. Za njegovo uporabo, kot pri vsakem močnem orodju, moraš imeti veliko znanja. Vedeti moraš, kakšne so njegove pomanjkljivosti, kritično premisliti njegove odgovore in jih povezati z lastnim znanjem in širšim razumevanjem sveta.

V Sloveniji je veliko raziskav na jezikovnih modelih. Niso pa vsi jezikovni modeli veliki. In velikih jezikovnih modelov ne more delati vsak, saj je to drago. Poganjati je potrebno močne računalnike, poraba elektrike je zelo velika. To se lahko gredo le svetovne velesile. Velike jezikovne modela lahko uporablja vsak, učiti pa teh modelov ne more kdorkoli, kar je to tako drago.

Urban Červek

 

Poleg ChatGPT se pojavljajo drugi jezikovni modeli, ki so odprte narave, ki jih je mogoče dopolnjevati, nadgrajevati. Pri velikih jezikovnih modelih je namreč pomembno to, iz česa so se dobili znanje.

Pred kratkim smo pisali o razkritjih, da so velika podjetja za preverjanje odgovorov ChatGPT in podobnih modelov najela zunanje izvajalce, za katere je nato delala množica prekarnih delavcev, tudi v Afriki in Aziji, za pičlo plačilo. Iz njihovih vnosov se je nato učila umetna inteligenca.

Gre za novodobni kolonializem. O pravičnosti družbenih sistemov ne bi veliko govoril, ampak Evropa ima na gotovo drugačne vrednote, kot jih imata Kitajska in Amerika. Na to smo lahko ponosni, ne smemo pa dovoliti, da nam zavre razvoj tehnologij. Moramo biti pragmatični, v Evropi razvijati svoje pristope in se truditi, da smo kar najbolj ob boku drugim velesilam.

Ali spremljamo novo geostrateško tekmovanje?

Brez dvoma. In sedaj prevladuje Amerika. Kot veste, je bil plenarni predavatelj na naši šoli v ponedeljek zvečer naš Jure Leskovec iz Standforda. Povedal je zelo zanimive stvari, ki gredo še korak nazaj od jezikovnih modelov. Povedal je, da je za učenje teh modelov potrebna ogromna računalniška moč in na tem področju zaostajamo.

Drugo vprašanje pa je regulacija: na vprašanje kako regulirati AI je hudomušno odgovoril, da v Evropi ni česa regulirati. Saj se zadeve dogajajo v ZDA. Če Evropa ne razvije lastne tehnologije, si lahko predstavljate, kaj to pomeni za položaj in samostojnost Evrope v odnosu do ostalega sveta.

Pred časom sem govoril s francosko strokovnjakinjo za umetno inteligenco in izpostavila je problem tako imenovane črne škatle, ko ni mogoče ugotoviti, kako je umetna inteligenca prišla do določene odločitve ali odgovora. Kar je nujno za regulacijo umetne inteligence.

Pri nevronskih mrežah je to še posebej težko. Veliki jezikovni modeli so nevronske mreže. In ne razložijo prav preprosto svojih odločitev. To je v resnici dihotomija in tam so jezikovni modeli šibki. Ni učinkovitega načina, da bi vanje vstavil znanje, ki drži. Da bi jim povedali, iz česa naj se učijo. Nevronska mreža prebere vse in se iz tega uči, vsemu pa daje enako težo in statistično posplošuje. Nevronska mreža si sicer ustvari neke notranje lastne predstavitve sveta, ne vemo pa, kako le-te ustrezajo človekovim predstavitvam sveta. Ni nujno, da je to ekvivalentno. In to je že težava, če nevronska mreža človeku ne skomunicira, kako je do določenih odločitev prišla.

Nevarnost je predvsem, če bi se umetna inteligenca uporabljala pri odločitvah, ki bi imele zelo težke posledice za človeka, na primer v pravosodju, zavarovalništvu, bančništvu.

Tako je pri vsakem močnem orodju. Če daš otroku nož v roke, je velika verjetnost, da si bo kaj odrezal. In gotovo je, da je umetna inteligenca močno orodje. Vedno močnejše. Zato jo je potrebno znati uporabljati. Gre za vprašanje etike. Tudi zato ne damo vsakemu v roke pištole. Vsaj pri nas. Sedaj ni teh barier, saj lahko vsak uporablja ChatGPT. Zato je tako pomembno, da iz šolskega sistema pridejo ne samo izobražene, ampak tudi zrele osebe s sistemi vrednot, z etiko. Da tehnologijo uporabijo za dobro človeštva. Ampak to je, kot veste, težko. Mene moti, da se vsak krivda pripiše umetni inteligenci. Če daš norcu pištolo v roko, ali je pištola kriva, da je prišlo do tragedije? Seveda ne.

Vendar je razvoj zelo hiter, tehnologije prihajajo bliskovito hitro in družba temu težko sledi.

Novinarji lahko pri tem odigrate pomembno vlogo, da govorite s pravimi strokovnjaki in dobite realistične ocene. Slovenski prostor je majhen, ni težko izvedeti, kdo kaj obvlada.