text size
Zavrnili so vam kredit, vendar ne veste, kdo je sprejel odločitev: človek ali algoritem. Banka vam pove, da odločitev temelji na modelu umetne inteligence, vendar vam ne more v celoti pojasniti, zakaj ste bili zavrnjeni. Boste tej banki zaupali tudi prihodnjič?
Takšen scenarij postaja del vsakdana, saj je umetna inteligenca zdaj sestavni del poslovanja vse od bančništva in zavarovalništva, zaposlovanja in trgovine do zdravstva in javnih storitev. Algoritmi tako vse pogosteje sodelujejo pri odločitvah, ki neposredno vplivajo na naša življenja. Zaupanje zato postaja nova valuta gospodarstva umetne inteligence. Podjetja so konkurenčno prednost v preteklosti gradila predvsem na cenah, kakovosti ali inovacijah; zdaj, ko lahko umetna inteligenca v nekaj sekundah napiše pogodbo, priporoči naložbo ali odgovori uporabniku, pa vprašanje ni več le, kako pameten je sistem, temveč koliko mu zaupamo. Eno napačno priporočilo umetne inteligence lahko izbriše leta vlaganja v ugled.
Prav tu na prizorišče stopa gospodarstvo zaupanja, v katerem postaja sposobnost podjetja, da pojasni, nadzoruje in prevzame odgovornost za tehnologijo, ki jo uporablja, enako pomembna kot sama tehnologija.
Banke še ne vedo, kdo bo odgovoren za umetno inteligenco
Medtem ko banke pospešeno eksperimentirajo z umetno inteligenco, je njihova pripravljenost na njeno sistemsko uporabo še vedno neenakomerna. Raziskava Združenja bank Srbije, v kateri je sodelovalo 18 bank, kaže, da največji izziv ni nujno sama tehnologija, temveč vprašanje, kdo bo zanjo odgovoren. Nikola Basta iz KPMG, ki je sodeloval pri raziskavi, meni, da bančni sektor danes prehaja fazo, v kateri se pobude na področju umetne inteligence množijo, vendar še niso povsod prevedene v jasne poslovne procese in odgovornosti. Banke so po njegovih besedah upravičeno previdne pri pristopu k novim tehnologijam, zlasti ko gre za tveganja, podatke in regulatorne zahteve. Hkrati jih hitrost razvoja umetne inteligence sili v iskanje ravnotežja med previdnostjo in potrebo, da tehnologije ne bi sprejele prepozno.
"13 od 18 bank sploh nima opredeljene odgovornosti za umetno inteligenco ali pa ta obstaja le neformalno," poudarja Basta. Ko nihče formalno ni odgovoren za določeno področje, dodaja, pobude ostajajo vezane na navdušenje posameznikov in težko postanejo del poslovnega procesa. To je po njegovem mnenju eden ključnih razlogov, zakaj je v bankah veliko posameznih projektov umetne inteligence, vendar še vedno ni dovolj skupne strategije, ki bi jasno odgovorila na vprašanje, katere poslovne probleme naj umetna inteligenca rešuje.
Še preden pride do samega algoritma, je vprašanje podatkov. Nobena od 18 bank, zajetih v raziskavi, nima podatkov, ki bi bili v celoti pripravljeni za uporabo umetne inteligence, medtem ko se pri dveh tretjinah bank podatki s področja tveganj še vedno večinoma uporabljajo za poročanje in izračune. "Zaupanje v umetno inteligenco se začne veliko prej, preden jo sploh začnemo uporabljati," pravi Basta. Če organizacija ne ve, od kod podatki prihajajo, kdo je zanje odgovoren in kako zanesljivi so, je težko pričakovati, da bodo zaposleni in komitenti zaupali priporočilu, ki ga ustvari model. Tu se odpira tudi vprašanje človeškega nadzora. Bolj je odločitev pomembna za posameznika ali podjetje, pomembneje je, meni Basta, da človek ohrani končno odgovornost. Raziskava kaže, da 14 od 18 bank nima formalnega človeškega nadzora nad odločitvami umetne inteligence ali pa ga ima le v omejenih primerih. "Ne verjamem, da bo zaupanje izhajalo iz trditve, da lahko umetna inteligenca vse naredi sama, temveč prav iz sposobnosti podjetja, da jasno pokaže, kje umetna inteligenca pomaga in kje odločitev sprejme človek," pravi.
Nikola Basta iz KPMG, ki je sodeloval pri raziskavi. Foto: Osebni arhiv
In prav tu bančna industrija že dobiva konkretno lekcijo: umetna inteligenca lahko pospeši proces, analizira velike količine podatkov in ustvarja priporočila, vendar odgovornosti za posledice ni mogoče prenesti na programsko opremo. Komitent, ki meni, da je oškodovan, odgovornosti ne bo iskal pri proizvajalcu modela, temveč pri banki. Za Basto je človeški dejavnik zato morda največja neznanka. V desetih od 18 bank usposabljanja o uporabi umetne inteligence pri upravljanju tveganj sploh ni, medtem ko je v 12 bankah znanje o umetni inteligenci skoncentrirano pri posameznikih. "Orodja so vstopila v banke, vendar znanja o tem, kako se ta ista orodja dejansko uporabljajo, ni," poudarja Basta.
To spreminja tudi naravo tveganja. Težava po njegovem mnenju ni samo, da se umetna inteligenca lahko zmoti – to se bo neizogibno dogajalo. Večja težava nastane, ko človek sprejme odgovor sistema brez preverjanja, ker deluje dovolj prepričljivo in ker ni jasno, kdo je odgovoren za preverjanje: "Ob koncu dneva največje tveganje umetne inteligence pogosto ni model, temveč človek, ki modelu zaupa bolj, kot bi smel."
Čez nekaj let po njegovem mnenju tehnologija sama ne bo več ključni dejavnik razlikovanja med bankami. Modeli bodo dostopni skoraj vsem, prava razlika pa bo v tem, česar ni mogoče preprosto kupiti – v kakovosti podatkov, upravljanju, jasno opredeljeni odgovornosti in sposobnosti ljudi, da ocenijo, kdaj umetni inteligenci zaupati in kdaj je treba njen rezultat izpodbijati. Vprašanje za banke torej ne bo več, ali uporabljajo umetno inteligenco, vprašanje bo, ali jim je uspelo zgraditi organizacijo, ki jo zna upravljati.
Kako je videti, ko umetna inteligenca izstopi iz faze eksperimentiranja in postane del vsakodnevnega odnosa banke s komitentom, kaže izkušnja Raiffeisen banke.
Banka za algoritmom
Finančne institucije razpolagajo z velikimi količinami podatkov in že več let uporabljajo avtomatizacijo in modele za različne procese, medtem ko generativna umetna inteligenca dodatno premika mejo med tehnologijo in neposrednim odnosom s komitentom. Raiffeisen banka v Srbiji je bila med bankami, ki so razmeroma zgodaj začele uporabljati umetno inteligenco v komunikaciji s komitenti, njihova izkušnja pa kaže, da zaupanje v umetno inteligenco ni prišlo samodejno.
"Zaupanje se ni zgradilo čez noč. Tako kot pri vsaki novi tehnologiji so bili uporabniki na začetku previdni, vendar so jo postopoma sprejemali, ko so videli, da prinaša konkretno vrednost s hitrimi, natančnimi in dostopnimi informacijami," za Bloomberg Adria pravi Jelena Aksić, namestnica predsednika izvršnega odbora Raiffeisen banke. Ključ po njenih besedah ni v tem, da uporabnik umetni inteligenci zaupa zato, ker je to umetna inteligenca, temveč zato, ker mu zagotavlja dobro izkušnjo, in dodaja: "Zaupanje se ne gradi na tehnologiji sami po sebi, temveč na kakovosti in doslednosti uporabniške izkušnje in storitve, ki jo komitenti prejmejo. Poleg tega nam je postopno uvajanje tehnologije v naše procese in storitve omogočalo, da smo se sproti učili in vključevali povratne informacije končnih uporabnikov."
To je pomembna razlika v primerjavi z zgodnjimi fazami razvoja umetne inteligence, ko se je sposobnost sistema pogosto obravnavala skoraj ločeno od vprašanja odnosa z uporabnikom. Danes komitent ne ocenjuje več samo, ali je tehnologija hitra, temveč ocenjuje, ali jo razume, ali ve, kdaj jo uporabljati, in, kar je najpomembneje, ali ve, na koga se obrniti, ko gre kaj narobe. Zato postaja transparentnost eden od temeljev tega odnosa.
"Transparentnost je eno ključnih načel odgovorne uporabe umetne inteligence. Menimo, da morajo komitenti vedeti, kdaj komunicirati s sistemom umetne inteligence, saj odprta komunikacija prispeva k zaupanju in jasnemu razumevanju možnosti in omejitev tehnologije," poudarja Jelena Aksić. "To načelo je bilo od začetka uporabljeno tudi pri digitalni asistentki REA, ki komunicira s komitenti Raiffeisen banke."
Toda postavlja se vprašanje, ali je transparentnost sama po sebi dovolj. Umetna inteligenca je lahko uporabniku odkrito predstavljena, vendar se ta še vedno ne bo počutil varno, če sistem daje netočne ali nejasne odgovore.
Jelena Aksić, namestnica predsednika izvršnega odbora Raiffeisen banke. Foto: Osebni arhiv
Iz Raiffeisna sporočajo: "Pomembni so štirje elementi: hitrost, natančnost, transparentnost in možnost vključitve človeka. Kljub temu je morda najpomembnejša zanesljivost odgovorov. Komitent mora vedeti, da bo dobil točno informacijo ali pa bo hitro usmerjen k zaposlenemu, ki mu lahko pomaga." Prav možnost, da pogovor prevzame človek, predstavlja eno pomembnih meja med avtomatizacijo in odgovornostjo. Bolj je odločitev pomembna za komitenta, pomembnejše je vprašanje človeškega nadzora.
V bančništvu je ta meja še zlasti vidna pri odločitvah, ki imajo lahko dolgoročne finančne posledice. Umetna inteligenca analizira ogromne količine podatkov, avtomatizira procese in ustvarja priporočila, vendar ostaja vprašanje: kje se konča pomoč algoritma in začne odgovornost banke? "Pri odločitvah, ki pomembno vplivajo na komitente, se uporabljajo ustrezne kontrole in človeški nadzor. Naš pristop je, da umetna inteligenca podpira sprejemanje odločitev in njihovo pospeševanje, medtem ko odgovornost ostaja na banki in njenih strokovnjakih." Z drugimi besedami, umetna inteligenca je lahko del procesa odločanja, ne more pa biti izgovor za prenos odgovornosti na algoritem.
To vprašanje bo postajalo še pomembnejše, ko bodo uporabniki začeli umetno inteligenco sprejemati kot finančnega svetovalca, in ne le kot orodje za podporo uporabnikom. Bodo komitenti algoritmu dovolili, da jim pove, ali si lahko privoščijo kredit, kako naj upravljajo denar ali kateri finančni produkt naj izberejo? V Raiffeisen banki pričakujejo, da bodo uporabniki za takšne storitve vse bolj odprti, vendar pod določenimi pogoji: "Pričakujemo, da bodo uporabniki vse bolj odprti za tovrstne storitve, zlasti če bodo zagotavljale relevantna, personalizirana in lahko razumljiva priporočila. Hkrati je pomembno, da imajo uporabniki jasne informacije, možnost izbire in dostop do človeške podpore, kadarkoli si jo želijo. Ne nazadnje uporabniki te storitve že uporabljajo pri drugih ponudnikih in bodo enako pričakovali tudi od svoje banke."
Kljub temu velja, da bolj je umetna inteligenca prisotna v odnosu med banko in komitentom, pomembnejše je vprašanje, kdo nosi posledice, ko tehnologija naredi napako. Za komitenta je odgovor preprost: banka. In preprost je tudi za banko, vsaj ko gre za Raiffeisen: "Odgovornost je vedno na banki. Komitenta ne bi smelo zanimati, katera tehnologija je bila uporabljena v ozadju. Odnos gradi z banko in pričakuje, da banka jamči za kakovost, varnost in korektnost ponujene storitve." Hkrati opozarjajo, da bi morali uporabniki razlikovati med sistemi umetne inteligence, ki so pod nadzorom finančne institucije, in splošnimi storitvami umetne inteligence, ki jih lahko uporabniki uporabljajo samostojno.
Če algoritem ustvari priporočilo ali odločitev, ki vpliva na komitenta, ni dovolj reči, da je rezultat ustvaril "model". V finančni industriji, kjer lahko odločitve vplivajo na dostop do denarja, naložbe ali dolgoročni finančni položaj posameznika, uporabnik pričakuje, da obstaja pojasnilo.
Prav tu naletimo na enega največjih izzivov umetne inteligence v financah: razložljivost. "Možnost pojasnila je zelo pomembna, zlasti v finančni industriji, kjer sta transparentnost in zaupanje ključnega pomena. Ni dovolj, da sistem poda priporočilo, temveč je pomembno, da obstaja ustrezna raven razumevanja načina, kako je do njega prišel. Zato pričakujemo, da bosta transparentnost in razložljivost rešitev umetne inteligence v prihodnosti vse pomembnejši."
To lahko hkrati postane tudi konkurenčna prednost. Če bo večina bank uporabljala podobne modele in tehnologije, razlika morda ne bo več samo v tem, kdo ima boljšo umetno inteligenco, temveč kdo je bolj pripravljen uporabniku pojasniti, kako jo uporablja in katere nadzorne mehanizme ima vzpostavljene. "Verjamemo, da lahko. Komitenti ne bodo izbirali le najboljše digitalne izkušnje, temveč tudi institucije, ki jim zaupajo. Banka, ki odkrito govori o tem, kako uporablja umetno inteligenco in katere kontrole uporablja, lahko dodatno utrdi odnos s komitenti," pravi Jelena Aksić, namestnica predsednika izvršnega odbora Raiffeisen banke.
Zato umetna inteligenca po izkušnjah Raiffeisen banke ne spreminja osnovne logike zaupanja v bančništvu, temveč način, kako se to zaupanje gradi: "Umetna inteligenca spreminja način, kako zagotavljamo storitve in komuniciramo s komitenti, vendar ne spreminja osnovnih načel, na katerih se gradi zaupanje. Varnost, odgovornost, transparentnost in osredotočenost na potrebe komitentov ostajajo enako pomembni ne glede na uporabljeno tehnologijo."
Če pogledamo nekaj let naprej, ko bo umetna inteligenca del skoraj vsakega procesa, vse od podpore uporabnikom in ocenjevanja tveganj do personaliziranih ponudb, bo vprašanje zaupanja še izrazitejše. Tehnologija bo verjetno postala bolj sofisticirana, zato se postavlja vprašanje, ali bo odnos s komitentom mogoče v celoti avtomatizirati. "Napredni sistemi umetne inteligence bodo pomemben predpogoj za zagotavljanje kakovostnih in personaliziranih storitev, vendar bo zaupanje ostalo ključni dejavnik dolgoročnega odnosa s komitenti. Tehnologija lahko izboljša uporabniško izkušnjo, vendar je zaupanje tisto, na čemer se gradi vzdržen odnos med banko in komitentom."
V tem smislu prihodnost gospodarstva umetne inteligence morda ne bo pripadala podjetjem z najpametnejšimi algoritmi, temveč tistim, ki bodo znala odgovoriti na veliko preprostejše vprašanje: kaj se zgodi, ko algoritem naredi napako, in kdo bo takrat prevzel odgovornost za njegovo odločitev?
Bajer: Odgovornost do komitenta ostaja na podjetju
Medtem ko izkušnje bank kažejo, kako se zaupanje v umetno inteligenco gradi v neposrednem odnosu s komitentom, širša slika poslovanja kaže, da se podjetja s podobnim vprašanjem srečujejo že veliko prej, preden algoritem doseže končnega uporabnika: ali so mu pripravljena zaupati dejanski del svojega poslovanja? Vedran Bajer, generalni direktor za Jadran, Madžarsko in Baltik pri Wonderful AI, meni, da je prav tu eden ključnih paradoksov današnjega gospodarstva umetne inteligence.
Ljudje so umetno inteligenco sprejeli veliko hitreje kot njihove organizacije. "Vsak dan jo uporabljajo v zasebnem življenju, medtem ko podjetja še vedno poskušajo ugotoviti, kako jo upravljati, ko se tehnologija začne dotikati dejanskih komitentov in dejanskega denarja," poudarja Bajer. Podatki raziskave KPMG kažejo, da 66 odstotkov ljudi redno uporablja umetno inteligenco, vendar ji zaupa le 46 odstotkov. Bajer meni, da ta razkorak ne govori toliko o tehnologiji sami kot o pripravljenosti podjetij, da jo odgovorno uvedejo v poslovanje. Raziskava McKinseyja po njegovih besedah kaže podoben trend: skoraj dve tretjini organizacij kot glavno oviro za širjenje agentov umetne inteligence navajata varnost in tveganje pred regulativo in tehničnimi omejitvami. Z drugimi besedami, težava ni samo v tem, kako dobra je umetna inteligenca, temveč ali podjetje ve, kaj se zgodi, ko jo uvede v dejanski poslovni proces. "Kdo je sistem odobril, kdo ga nadzoruje in kdo ga lahko ustavi ali prevzame nadzor. Ko podjetje lahko odgovori na ta tri vprašanja, se zaupanje veliko hitreje vzpostavi," poudarja Bajer.
V Srbiji je ta razkorak med eksperimentiranjem in dejansko poslovno uporabo še bolj viden. Bajer ocenjuje, da le okoli deset odstotkov podjetij uporablja umetno inteligenco kot del vsakodnevnega poslovanja, medtem ko se večina še vedno zanaša predvsem na splošne klepetalne robote. Razlog za to ni le pomanjkanje zaupanja, temveč dejstvo, da podjetja pogosto niso pripravljena umetne inteligence postaviti v položaj, v katerem ima napaka dejansko posledico.
"Splošni asistent prinaša majhno tveganje. Če poda povprečen odgovor, se nič ne pokvari. V trenutku, ko umetna inteligenca obravnava škodni primer, transakcijo ali podatke o komitentu, se vložek popolnoma spremeni, večina organizacij pa še ni opravila dela na področju upravljanja, ki ga zahteva takšna raven tveganja," pravi Vedran Bajer. Eden najpogostejših problemov je po njegovih besedah, da podjetja poskušajo avtomatizirati procese, ki jih niti sama povsem ne razumejo: "Najpogostejši problem, ki ga opažamo na terenu, je proces, ki od začetka do konca nikoli ni bil jasno začrtan. Ko ljudem, ki vodijo neki proces, ni jasno, kako ta deluje, agent samo avtomatizira to zmedo."
"Podjetja, ki so med prvimi naredila resen korak naprej, so najprej uredila lastne procese: vedela so, kako delo poteka, kdo je odgovoren za določen korak in kje mora človek ostati vključen," meni Bajer.
Dodaja, da je to še zlasti pomembno, ko začne umetna inteligenca sprejemati odločitve, ki neposredno vplivajo na uporabnike, od kreditov in zavarovanj do cen in transakcij, saj je znano ime podjetja dovolj, da uporabnik tehnologiji da prvo priložnost, ne pa tudi za izgradnjo dolgoročnega zaupanja: "Znano ime kupi potrpežljivost komitenta za prvo interakcijo. Dolgoročno zaupanje izhaja iz dveh stvari: da veste, zakaj je bila odločitev sprejeta, in da imate možnost obrniti se na nekoga, če se z njo ne strinjate."
.webp){kind=icon}
