Zakaj bi morala AI vlagatelje skrbeti nesreča samovozečega avtomobila

Sredi decembra se je Mary Barra, izvršna direktorica družbe General Motors, udeležila konferenčnega klica z analitiki in napovedala odločitev o "ponovni uskladitvi strategije glede avtonomne vožnje". Podjetje je zaustavilo razvoj svojih avtomobilov brez voznika, ki ga je vodila hčerinska družba, znana kot Cruise, ekipo pa pridružilo delu podjetja GM, ki se ukvarja s programsko opremo za njihovo redno linijo. Barra je dejala, da gre za "pospeševanje napredka in hkratno zagotavljanje pomembnih prednosti za stranke". 

To, kar je bilo predstavljeno kot sprememba strategije, je pomenilo tudi popolno priznanje neuspeha. Barra je – tako kot številni direktorji v tehnološki in avtomobilski industriji – več let snovala fantastično vizijo prihodnosti, v kateri bodo vozni parki tako imenovanih robotaksijev kmalu nadomestili običajne avtomobile. Tehnologija je bila po besedah šefinje družbe GM že razvita; treba jo je bilo le še nadgraditi. "Tukaj smo. To se dogaja prav zdaj," se je leta 2023 pohvalila na konferenci South by Southwest v Austinu. Vedno znova je zatrjevala, da bo družba GM, ki je v zadnjem četrtletju ustvarila približno 50 milijard dolarjev prihodkov, do leta 2030, zahvaljujoč robotaksijem, zaslužila dodatnih 50 milijard dolarjev na leto. 

Te napovedi so se izkazale za skrajno optimistične, saj so temeljile na vprašljivih podatkih in tehničnih napakah, zaradi katerih je bila programska oprema podjetja videti bolj dovršena, kot je v resnici bila. Še bolj pa skrb vzbuja dejstvo, da sredi razcveta tehnologij umetne inteligence, zaradi katerega tako velika kot majhna podjetja razmišljajo o zamenjavi velikega števila človeških delavcev z modificiranimi chatboti, podjetje Cruise ni bilo edino, ki je obljubljalo preveč. Neuspeh podjetja ne služi zgolj kot opozorilo za druge, ki poskušajo prodajati robotaksije, zlasti za Muskovo podjetje Tesla in Googlovo matično družbo Alphabet – hkrati nakazuje tudi, da je treba pretirane obljube upravljavcev chatbotov (in podjetij, ki na podlagi teh upravičujejo svoje vrtoglavo visoke ocene) jemati z rezervo, če že ne z odkritim skepticizmom. Ne nazadnje naj bi bila avtonomna vožnja tisti preprostejši del umetne inteligence. 

Kljub neuspehu se je podjetje Cruise upravljanju komercialno uspešne avtonomne avtomobilske storitve približalo bolj kot katerokoli drugo podjetje. Težava je, da to ne pomeni, da se je cilju dejansko približalo. Na svojem vrhuncu je bilo podjetje potratna novost, ki je obsegala nekaj sto avtomobilov, ki jih je nadzorovalo več tisoč zaposlenih. Avtomobili so vozili zunaj avtocest in zahtevnejših cestnih odsekov, a jim je še vedno uspelo motiti gasilska in druga reševalna vozila, hkrati pa so s svojimi okvarami sredi vožnje povzročili ogromno prometnih zastojev v središču San Francisca. Cruise je poleti leta 2023 objavil oglase z rezultati študije – ki jo je podjetje kakopak izvedlo samo – glede na katere njihovi avtomobili prekašajo vozila, ki jih vozijo običajni ljudje; in to kljub temu, da je bilo iz dokazov mogoče razbrati ravno nasprotno. 

V nobenem od teh oglasov ni bilo jasno prikazano, da so avtomobili "brez voznika" podjetja Cruise dejansko avtonomno delovali le deloma; zanašali so se na velike skupine ljudi v klicnih centrih, ki so vozila spremljali in jim po potrebi ukazali, kaj naj storijo. To dejstvo znotraj panoge ni bilo ravno skrivnost: Waymo, hčerinska družba podjetja Alphabet za avtomobile brez voznika, katerega robotaksije je mogoče v Los Angelesu, Phoenixu in San Franciscu srečati vse pogosteje, se prav tako zanaša na tako imenovane upravljavce na daljavo. Vseeno pa je oglas pripomogel k vtisu, da je programska oprema podjetja Cruise bolj sofisticirana, kot je v resnici bila. 

Bloomberg Mercury

 

Nato pa je bil konec leta 2023 robotaksi znamke Cruise udeležen v nesreči, v kateri je peško iz San Francisca zbil običajen avto, nato pa se je znašla pred prihajajočim avtonomnim vozilom. Avtomobil pod nadzorom podjetja Cruise je sicer močno zaviral, vendar je žensko vseeno zbil. Namesto da bi se vozilo potem ustavilo in prepričalo, ali je ženska v redu – kar bi storil vsak dostojen človeški voznik –, pa je Cruisovo vozilo nadaljevalo vožnjo in žensko po cestišču vleklo še dobrih šest metrov. Ženska je preživela, vendar je s hudimi poškodbami pristala v bolnišnici. Podjetje Cruise se je na vloženo tožbo odzvalo s poravnavo v vrednosti približno 10 milijonov dolarjev, poroča Bloomberg News, državnim in zveznim regulatorjem pa je plačalo tudi globe zaradi zamolčanja podrobnosti o nesreči. Podjetje Cruise je s poslovanjem prenehalo (začasno, kot so v podjetju navedli tedaj), njegov izvršni direktor pa je odstopil. 

V osmih letih od nakupa družbe Cruise je podjetje GM za upravljanje oddelka porabilo več kot 10 milijard dolarjev. »Denarni izdatki so bili v primerjavi z neverjetno nizko donosnostjo naložbe naravnost neverjetni,« pravi Missy Cummings, direktorica robotskega centra Univerze George Mason in nekdanja svetovalka Nacionalne uprave za varnost v cestnem prometu. Po splošnem prepričanju so bile težave podjetja GM s projektom Cruise edinstvene, nekakšna kombinacija smole in poslovne nesposobnosti. A Cummings pravi, da si tisti, ki temu verjamejo, napačno razlagajo, kaj se je zgodilo s podjetjem in kaj se očitno dogaja tudi njegovim tekmecem. 

Tako kot Cruise je tudi podjetje Waymo ogromne vsote vložilo v izgradnjo podjetja, ki je po tehnični plati sicer impresivno, vendar se lahko ponaša le s skromnim voznim parkom, ki deluje v peščici mest, z nižjimi hitrostmi in obilico spodrsljajev. Decembra, na primer, so v družbi Waymo prejeli pritožbo stranke, ki je njihovo storitev poskušala uporabiti za prevoz na letališče v Scottsdalu v Arizoni, pri tem pa je obtičala v robotaksiju, ki je na poti do letališča pet minut vozil v krogih. Poklicala je ekipo za podporo strankam in agent je avto ustavil. Družba Alphabet o izgubah podjetja Waymo ne poroča, vendar je njihov oddelek za '’druge priložnosti'’, ki vključuje tudi storitev Waymo, od leta 2016 zabeležil izgubo približno 37 milijard dolarjev. Waymo trenutno preizkuša vožnjo po avtocestah, vendar teh voženj strankam še ni ponudil; Cummings pravi, da je vzrok dejstvo, da tega še ne morejo storiti na varen način. Rezultat je storitev, ki je priljubljena med turisti v San Franciscu, komercialno pa je uspešna le zaradi ogromnih dobičkov, ki jih ustvarja Googlov iskalnik. "Dosegli so neverjeten uspeh," pravi Cummings, "vendar so še vedno omejeni na hitrost približno 70 kilometrov na uro, o tem pa nočejo govoriti." Pravi, da nas od povsem delujočega robotaksija ločijo še desetletja. 

Ob neuspešnem usposabljanju računalnikov z namenom, da bi se približali zmogljivostim kateregakoli voznika storitve Uber (po 15 letih pošiljanja s senzorji oboroženih avtomobilov na milijone kilometrov voženj), bi morala ta podjetja dobro premisliti, ali je podobno tehnologijo smiselno uporabljati za nadomeščanje ljudi pri opravljanju zapletenejših nalog. Vožnja – v nasprotju z na primer pisanjem novic ali podporo strankam v banki – je precej nedvoumna dejavnost, ki jo urejajo jasno določena pravila, ki so bolj ali manj povsod enaka. 

Prve predstavitve samovozečih vozil, ki so luč sveta ugledale sredi prvega desetletja tega tisočletja, so se zdele skorajda resnične. Vodstva podjetij in vlagatelji v tvegani kapital so samozavestno napovedovali, da je treba dognati le še to, kako obvladati peščico tako imenovanih obrobnih primerov, kot je učenje avtomobilov, da sledijo navodilom reševalcev in se soočajo z neugodnimi vremenskimi razmerami. Od takrat je bilo v projekt vloženih veliko več kot 100 milijard dolarjev, obrobni primeri niso razrešeni in z avtomobili brez voznika nihče ne kuje dobičkov. 

Če se ozremo nazaj, pravi Cummings, so pionirji s področja samovozečih vozil te predstavitve zmotno zamenjali za skorajda dokončane izdelke, to napako pa po njenem mnenju ponavljajo tudi dobavitelji chatbotov. Veliki jezikovni modeli se približujejo nekaterim vrstam človeškega izražanja, vendar se jim rade primerijo tudi napake. Še vedno ni odpravljena njihova nagnjenost k "halucinaciranim" dejstvom, ki nekako spominja na trdovratno težavo v samovozečih avtomobilih, znano kot fantomsko zaviranje. In tudi pri najbolj sofisticiranih chatbotih do napak prihaja dovolj pogosto, da so pri večini vrst dela nezanesljivi, vsaj če delujejo brez stalnega nadzora. Tako kot pri avtomobilih brez voznika tudi tu potrebujete ljudi, ki poskrbijo, da si boti ne izmišljajo dejstev, ki jih prebirate v vašem mediju z novicami (kar je za medije, ki so bote poskušali uporabiti, znatna težava), ali ki botom preprečujejo, da bi bleknili kaj opolzkega ali pozivali k samopoškodovanju. 

In prav tako kot robotaksiji tudi chatboti stanejo več, kot je zanje kdorkoli pripravljen plačati – prav zato nekateri posamezniki, kot je Jim Covello, vodja delniških raziskav pri skupini Goldman Sachs, trdijo, da je razcvet umetne inteligence pravzaprav špekulativni mehurček. Z implicitno oceno v vrednosti skoraj 160 milijard dolarjev je OpenAI najbogatejše zagonsko podjetje vseh časov, vendar pa na letni ravni izgublja na milijarde dolarjev. 

Zastavlja pa se še vprašanje trga: robotaksi nadomešča nekaj, kar se večini ljudi ne zdi neprijetno. Današnji počasni in zmogljivostno omejeni avtomobili brez voznika so očitno koristni – vsaj glede na izdatno subvencionirane cene – če ste introvert ali pa turist. Chatboti (pomislite samo na like na podlagi umetne inteligence, ki jih je Mark Zuckerberg dodal na svoje družbeno omrežje, da bi ljudje na njem preživeli še več časa) pa nas oddaljujejo prav od tistih delov življenja, ki so dejansko … resnični. 

Trenutno ni komentarjev za novico. Bodi prvi, ki bo komentiral ...

Pusti komentar