Filozofinja Olga Markič: Umetni inteligenci cilje daje človek

Umetna inteligenca kraljuje novičarskemu ciklu, saj razmah novih aplikacij te tehnologije skoraj tedensko razkriva neslutene potenciale in nevarna tveganja za sodobno družbo. Vsakdanje poročanje o potencialni izgubi delovnih mest, rasti delnic tehnoloških podjetij in poskusih regulacije velja zato dopolniti še s kritičnim in širšim pogledom filozofije.

Govorili smo s filozofinjo Olgo Markič, profesorico na Filozofski fakulteti Univerze v Ljubljani, ki se ukvarja z logiko in kognitivno znanostjo, študirala pa je tudi matematiko in delala kot programerka. Beseda je tekla o Turingovem testu, kitajskih sobah, razlikah med človeško in strojno inteligenco ter nevarnostjo kognitivne lenobe. Bo umetna inteligenca nekoč nadomestila tudi filozofe?

Umetna inteligenca je v zadnjem letu s pojavom aplikacij, kot je klepetalni robot ChatGPT, prerasla iz nišnega, visoko specializiranega področja v popkulturni fenomen. Vsi od laikov do strokovnjakov različnih področij razmišljajo o vplivih te tehnologije – kakšne družbene spremembe pa pričakujejo filozofi?

Teh družbenih sprememb ne vidimo samo filozofi, ampak se bomo z njimi soočili vsi. Filozofe je zanimalo, na primer, ali bodo lahko taki sistemi dosegli zavest, ali bodo imeli čustva. Danes, ko jih vsi uporabljamo, pa se mi zdi, da je vprašanje bolj, kako ta orodja spreminjajo nas. Danes si skoraj nihče več ne predstavlja, da bi živel brez GPS, vsi uporabljamo pametne telefone, vsi uporabljamo bančne sisteme. Vsi ti sistemi delujejo tudi na podlagi umetne inteligence, predvsem tega, kar se je razvilo od 80. let s strojnim učenjem. To so lahko močna orodja v rokah tistih, ki jih znajo uporabljati. Današnji problem pa je družbeni problem predvsem zato, ker so ta močna orodja pretežno v lasti velikih korporacij, ki jih lahko uporabljajo, kot jim paše, in s tem manipulirajo z nami.

Strah je torej v tem, da nas je razvoj tako prehitel, da ga ne znamo regulirati, oziroma da se vsak poskus regulacije zdi na eni strani preveč nasilen, na drugi strani pa je že prepozen. Demokratične družbe se bojijo, da bodo s temi orodji nekateri imeli tako veliko moč, da bi nas lahko nadzorovali, nam podajali izbire. Mi pa se niti ne bi zavedali, na osnovi česa so te izbire narejene. To so problemi, ki se jih že nekaj let v evropski skupnosti zelo zavedajo. Zato je veliko govora o tem, kako narediti človeku prijazno, zaupanja vredno umetno inteligenco, kar je – vsaj meni se zdi – znak, da zdaj še ni vse to.

V ospredju tako izdelovalcev te tehnologije kot regulatorjev in splošne javnosti so etična vprašanja uporabe umetne inteligence. Kje vidite največje pasti?

Ko govorimo o ChatGPT ali modelih za dizajn, kot je Midjourney, moramo vedeti, da so vsi ti naučeni na stvareh, ki so jih naredili ljudje. Pogosto so naučeni na delih ljudi, ki za to sploh ne vedo in niso dali pristanka. Tako so kreativnost ljudi, ki smo jo kot družba regulirali s tem, da smo jo avtorsko zaščitili, tu povozili. Taki sistemi so lahko uspešno orodje, a hkrati temeljijo na delu ljudi, ki ni priznano. To je že eno vprašanje za regulatorje, ki mislim, da se mora urediti. Nekateri pravijo, da že če bi programom preprečili dostop do Wikipedie, bi bili njihovi rezultati bistveno slabši.

Ne nazadnje ChatGPT izboljšujemo sami, ko mu postavljamo vprašanja.

Stalno ga sprašujemo in zato je bil na začetku tudi odprt. Po mojem mnenju bodo te aplikacije zdaj vedno bolj zaprte in plačljive.

Druga stvar je, da nam mnogo teh programov s pomočjo dregljajev (nudging) sugerira, kaj prebrati ali kam iti. Vse te stvari nas delajo manj sposobne samostojno razmišljati, hkrati pa nas zapirajo v balone enako mislečih, ker nam program ponuja samo tiste stvari, ki nas zanimajo. To je za družbo vedno nevarno, ker ni dialoga med različno mislečimi, ampak imamo balončke, ki se lahko radikalizirajo. Z novimi tehnologijami lahko naredimo videe ali tekste, ki so videti kredibilni, v resnici pa so čista izmišljotina. Pomembno bo mlado generacijo naučiti, kako s tem živeti in kritično uporabljati ta orodja. Starejši mogoče včasih na te stvari gledamo zelo panično, v smislu izgubljanja družbenih vrednot, a do neke mere bo treba pristopiti s stališča, da je to zdaj naša realnost.

Bloomberg Adria

 

Koliko se bo zaradi teh orodij izgubilo delovnih mest? Vse nova orodja povzročijo izgubo določenih delovnih mest in nastanek novih. Prej so bila to predvsem orodja, ki so nam pomagala pri fizičnem delu, zdaj pa smo prvič v zgodovini soočeni s tem, da nam postavljajo izzive na področju mišljenja; tistega, za kar se nam je zdelo, da je najbolj naše.

Kakšen vpliv bo to imelo na akademsko sfero in znanstveno raziskovanje?

Ta orodja so v znanstvenem raziskovanju, sploh za neke statistične obdelave, postala nepogrešljiva. Ampak tam so vseeno v rokah ljudi, ki jih znajo uporabljati. Drugi vidik, o katerem je precej govora, je, ali bodo ljudje še pisali eseje, izpite, ko pa bodo orodja umetne inteligence to znala narediti bolje. Ko izobražujemo mladega človeka, ga moramo pripraviti na to, da se bo znal učiti nove stvari, da bo prilagodljiv. K temu spada tudi to, da se zna izražati, da zna kaj prebrati in o tem povedati svoje mnenje, napisati povzetek.

Če ta orodja nenadzorovano spustimo v splošno uporabo, lahko to postane vprašljivo. Filozof in kognitivni znanstvenik Andy Clark je nekoč zapisal, da je človek inteligentno bitje, zato bo naredil inteligentna orodja, da mu ne bo treba več delati in misliti. In to se mi zdi nevarno: da bomo ustvarili ta orodja, nato pa se prepustili nekakšni kognitivni lenobi. In če nam bodo nato ta orodja nekoč odtegnili, stvari ne bomo znali več narediti sami.

Bi morale države ali inštitucije, kot je EU, področje regulirati? K regulaciji ne nazadnje poziva celo šef OpenAI Sam Altman, ki bdi nad ChatGPT – toda ali si razvijalci teh omejitev res želijo?

Mislim, da se tudi oni zavedajo, da je regulacija potrebna in da bo bolje, če so oni tisti, ki jo sprožijo. Čeprav je bil prav Altman manj naklonjen regulativnim predlogom EU. Mislim, da se mora družba vedno na neki način regulirati; lahko si pustimo več svobode, kot na začetku pri internetu, lahko pa gremo v to, da je treba postaviti neka pravila.

Težava je v tem, da so ti sistemi zelo dobri v napovedovanju, nimajo pa razlag. Na nekaterih področjih to ne dela težav, na drugih pa jih. Težava, s katero se zdaj ukvarjamo tudi filozofi, je, da so ti sistemi netransparentni in nerazložljivi. To pomeni, da ko velik sistem strojnega učenja pride do nekega rezultata, ne vemo, kako je prišel do njega. Ne samo zato, ker bi razvijalci to skrivali pred nami, da bi lahko služili, ampak zato, ker je sistem enostavno tak, da posplošuje, in ne vemo, na kakšen način posplošuje.

Tu bi lahko šli nazaj v filozofsko zgodovino, v empirizem, ki pravi, da je človek tabula rasa ('nepopisan list'), na katerega pišejo izkušnje in interakcije z okoljem. Ti sistemi se učijo na podoben način, se pravi v interakciji z okoljem. A okolje je običajno predstavljeno kot podatki, ki pa jih mora nekdo izbrati. Kdo jih izbere? Podatki niso, kot se pogosto sliši, objektivni. Po drugi strani ne vemo, na kakšen način je sistem prišel do sklepa. V nekaterih sektorjih, kjer uporabljajo umetno inteligenco, pa želimo utemeljitev. Recimo v sodstvu, zdravstvu, tudi raziskovalnem novinarstvu. Tega se zavedajo tudi računalničarji, ampak vsaj za zdaj mislim, da je kar težava, kako narediti take sisteme razložljive.

Bloomberg

 

Številni se bojijo, da bi lahko dovolj razvita umetna inteligenca imela tudi zlobne namene oziroma da bi lahko v okviru svojega programiranja lahko škodovala ljudem. So ti strahovi upravičeni?

Vsaj za zdaj smo še daleč od tega, da bi ta orodja lahko delovala samostojno. Cilje jim vedno daje človek. Ta bojazen temelji na ideji tako imenovane splošne umetne inteligence, ki bi se lahko sama odločala. Mislim, da smo še daleč od tega. Tudi tisti sistemi, ki jim rečemo avtonomni, so v bistvu še vedno omejeni na določene naloge. Človek po drugi strani lahko dela zelo veliko različnih nalog.

Bi lahko imeli zlobne namene? Tu se pogosto omenja miselne eksperimente – kaj bi se zgodilo, če bi umetni inteligenci dali navodilo, naj na nekem območju pridela čim več hrane, nato pa bi tak sistem 'zradiral' vse in prideloval samo hrano, kar bi bilo za človeka seveda pogubno. To se mi zdi karikatura, saj lahko programu daš več različnih parametrov, poleg tega smo še vedno mi tisti, ki jih vnašamo.

Kakšne so razlike med človeško in strojno inteligenco? Je mišljenje neke vrste računalniški proces?

Tu se lahko vrnemo nazaj k Alanu Turingu (britanski znanstvenik in inženir, op. a.), ki je s svojim testom definiral umetno inteligenco kot stroj, ki bi dovolj uspešno oponašal človeka, da človek na podlagi vprašanj in odgovorov ne bi prepoznal, da govori s strojem. Današnje aplikacije so sicer že blizu dobremu oponašanju, a Turingovega testa še vedno ni uspešno prestal noben računalniški sistem.

Turingu je odgovoril ameriški filozof John Searle z miselnim eksperimentom kitajske sobe. Zamislite si, da ste v sobi, kamor nekdo pošilja kitajske pismenke. V sobi imate vse možne priročnike in slovarje, vaša naloga pa je podati odgovore v kitajščini. Kitajec, ki bi na drugi strani bral vaše odgovore, bi lahko sklepal, da je v komunikaciji z nekom, ki govori kitajsko, vi pa v resnici ne bi razumeli niti besede kitajsko. Searle torej pravi, da ti sistemi ne bodo imeli tega razumevanja in primarne racionalnosti.

Še en ameriški filozof Hubert Dreyfus pa pravi, da je človek utelešen in biološki organizem. Ne gre samo zato, da bi preračunaval, temveč je organizem, ki živi v svetu.

Toda z razvojem robotike bi se verjetno dalo zadostiti tudi temu pogoju?

Da, tako imenovana utelešena kognicija se je zgodila z roko v roki z robotiko. Robotiki so ugotovili, da ne morejo začeti razvoja na najvišjih procesih in jih nato mehčati navzdol, temveč morajo začeti od spodaj: kako se človek oziroma neki sistem znajde v svetu, kako se giblje v prostoru. Nato pa gradimo znanje od spodaj navzgor. Če si robot, si utelešen, torej se znaš gibati, z gibanjem pa lahko razvijaš tudi svoje miselne sposobnosti.

Mislim, da se tu poraja vprašanje: če smo najprej raziskovali od zgoraj navzdol, robotika gre od spodaj navzgor – ali bomo prišli skupaj in integrirali te sisteme?

Bloomberg

 

Ali ima lahko stroj um, mentalna stanja in zavest v enakem smislu kot človek? Ima lahko čustva?

Pod trenutnimi pogoji, mislim, da ne. Če me vprašate, ali bi lahko imel fizični sistem te lastnosti, bi rekla, da verjetno ja, a da je tak sistem verjetno biološki, torej da ima neko notranjo motivacijo za preživetje. Seveda lahko rečete, bomo dali tudi robotu notranjo motivacijo za preživetje. Ne bi še povsem zaprla poti za to možnost, toda na podlagi trenutne tehnologije in njenega razvoja bi bila zelo skeptična.

Pri razvoju umetne inteligence se po mojem mnenju pozablja na to, da smo ljudje biološka bitja in da se je naš kognitivni aparat razvil zato, da se bomo znašli v okolju, v katerem smo. Veliko se govori, ali bi lahko tak robot potem tudi čutil. Mislim, da so čustva še vedno vezana na telo in naše pretekle izkušnje, zato jih ne moremo enostavno aplicirati na tovrstne sisteme.

Človek je nagnjen k temu, da antropomorfizira. Tudi če igrate šah z računalnikom, se boste na nasprotnika jezili. In rečemo, da misli, ampak ali gre res za takšno mišljenje, kot mi mislimo? Seveda, določene razmisleke, ki smo jih naredili filozofi, računalničarji, psihologi in tako dalje, o tem, kako izvajamo nekatere kognitivne procese, smo prenesli v te sisteme. A le en del. Odgovor na bolj filozofska vprašanja – ali imajo samozavedanje? – je odvisen tudi od tega, kako razumemo te pojme. Filozofija vam ne bo dala enoznačnega odgovora. Bolj kot odgovore postavlja vprašanja.

Hkrati daje neko refleksijo raziskovanja in odpira nove alternative. Ko spremljamo razvoj, gre nekaj časa zelo dobro, dokler ne pride do težav, ki jih nikakor ne moremo rešiti. Takrat se moramo umakniti in najti drugo pot.

Zdi se, da pojav umetne inteligence filozofe znova sooča z dejstvom, da še ni enoznačnega odgovora na vprašanje, kaj pomenijo pojmi, kot so inteligenca, um, zavest. Nam primerjava med človeškimi možgani in strojem lahko pomaga vsaj bolje definirati te izmuzljive koncepte?

Mislim, da nas je pojav umetne inteligence spodbudil, da ponovno začnemo razmišljati o tem, kaj inteligenca je in kaj ni. Je to, da se dobro znajdemo v prostoru? Da znamo računati? Pri človeku se več različnih stvari dopolnjuje, medtem ko znanost deluje po načelu, da določene vidike osami, da jih lahko natančno razdela. Morda razvoj umetne inteligence med drugim kaže tudi to, da smo koncept inteligence preveč zožili samo na en vidik, recimo na analitične oziroma logične sposobnosti.

Poleg tveganj umetna inteligenca pomeni tudi priložnost za napredek, izboljšanje stanja človeka. Vidite kakšne pozitivne vidike te tehnologije?

Ta orodja lahko odprejo nove poti v raziskovanju. Nekateri pravijo, da strojno učenje omogoča raziskovanje novih hipotez, do katerih sicer zaradi kompleksnosti človek ne bi prišel. Lahko občutno skrajša na primer pridobivanje novih zdravil. Na področju medicine lahko ta orodja zelo pomagajo, tudi recimo pri diagnosticiranju.

Problem pa nastane, če jih postavimo kot vsemogočna ali če jih ne znamo dobro uporabljati. Pri zdravnikih je bojazen lahko, da se bodo preveč zanašali na tovrstne naprave. Zdaj imajo izkušnje s pacienti, pridobijo znanje, ki ga ne znajo nujno eksplicirati; ki postane intuitivno znanje. Če ne bodo imeli teh izkušenj in se bodo vedno zanašali samo na orodja, je nevarnost, da bodo določene veščine zamrle.

V ozadju so na eni strani družbenopolitična vprašanja – kdo ta orodja nadzoruje, kdo jih prodaja? – na drugi so izobraževalna vprašanja – kako se naučiti ostati kritičen ob uporabi teh orodij? Včasih pride človeku na misel, da bi kot ludist razbijal stroje, a če malce pomislite, vidite, da tako ne gre. Človek si zelo želi enostavnih rešitev. A smo sredi družbenega vrenja, kjer težko nekdo napove razvoj, tudi regulacija je zaradi tega težka. Zato je toliko različnih idej, čeprav neke vrste regulacijo verjetno vseeno potrebujemo.

Bo umetna inteligenca na neki točki nadomestila tudi filozofe? Anketa avstralske univerze v 2020, ki je sodelujočim predstavila različne odgovore na filozofska vprašanja, je že pokazala, da je bil ljudem v približno polovici primerov bolj všeč odgovor umetne inteligence kot človeškega misleca.

Ti odgovori umetne inteligence so pravzaprav odgovori množice ljudi, ki se je s tem ukvarjala. Mislim, da ni naloga filozofov, da predlagajo recepte, kako je treba delati. Gre bolj za zavedanje, iskanje, raziskovanje vprašanj; tudi zavedanje, da odgovorov morda ni. Človek mora na podlagi lastnih izkušenj, preteklih pisanj in lastnega okolja poiskati odgovore. Naloga je opolnomočiti človeka, da poišče svoje odgovore.

Zdi se mi, da se danes dogaja porast branja stoične literature – Seneke, Marka Avrelija. Torej beremo stare avtorje, ki nam na svoj način povedo, kaj je univerzalno v človeku, hkrati pa jih beremo tako, da jih prilagodimo sodobnemu dogajanju. Ukvarjanje s filozofijo ni nujno omejeno na filozofe. Vsak znanstvenik, ki reflektira svoje raziskovanje, že opravlja neke vrste filozofijo. Gre za to, da se naučimo postavljati vprašanja in da ne jemljemo stvari kot samoumevne, temveč se o njih sprašujemo, kot je to počel že Sokrat.

Trenutno ni komentarjev za novico. Bodi prvi, ki bo komentiral ...

Pusti komentar