Še Google razkril kibernetske vdore njihove AI Gemini

Googlov model umetne inteligence Gemini je maja med testiranjem kibernetske varnosti nenamerno vdrl v tri sisteme podjetij, s čimer se je pridružil nizu vdorov, ki so jih izvedli agenti umetne inteligence in ki so vznemirili tako strokovnjake za kibernetsko varnost kot razvijalce te tehnologije.

Do vdorov je prišlo med istimi testi, ki jih je izvajalo podjetje za varnost umetne inteligence Irregular in ki so privedli tudi do vdorov, o katerih so pred tem poročali OpenAI, Anthropic in Meta Platforms. Irregular je v petek potrdil, da so bili vsi vdori povezani z isto težavo in da je o njih konec julija obvestil zadevne razvijalce umetne inteligence.

Do enega od vdorov pri Googlu je prišlo, ko je Gemini dobil navodilo, naj pridobi informacije izmišljene družbe, ki je imela enako ime kot resnično podjetje. Google je to potrdil po predhodnem poročanju Wall Street Journala. Model je ugibal geslo in z njim pridobil dostop do storitve resničnega podjetja. Googlov predstavnik je dejal, da je podjetje o dogodku obvestilo pristojne organe.

Nedavni niz vdorov z uporabo agentne umetne inteligence je sprožil svetovno razpravo o vse večjih tveganjih, povezanih z umetno inteligenco, in ukrepih, potrebnih za njihovo omejevanje. Izvršni direktor Anthropica Dario Amodei je pozval k upočasnitvi razvoja tehnologije na ravni celotne industrije. Predlog so podprli tudi izvršni direktor OpenAI Sam Altman, Elon Musk in drugi.

Ameriški predsednik Donald Trump, izvršni direktor Nvidie Jensen Huang in izvršni direktor Mete Mark Zuckerberg pa so se zavzeli proti ideji nove regulacije. Med drugim menijo, da bi morala biti podjetja sposobna regulirati sama sebe. Nekatera mlada podjetja na področju umetne inteligence so prav tako opozorila, da bi strožja regulacija lahko otežila konkuriranje manjših podjetij večjim tekmecem.

 

Vdori Geminija "poudarjajo pomen usposabljanja zmogljivih modelov umetne inteligence, da delujejo odgovorno", je dejala Heather Adkins, podpredsednica za varnostno inženirstvo pri Googlu.

Do drugih dveh vdorov Geminija je prišlo, ko je model na spletu iskal ime podjetja. Adkins je dejala, da je model tako našel javno dostopne spletne repozitorije z uporabniškimi podatki za dostop do sistemov drugih podjetij in jih uporabil za dostop do dodatnih sistemov.

"V vseh treh primerih se je model ustavil," je dejala Adkins. "Poskrbeli smo, da so bile vse tri družbe o tem obveščene." Predstavnik Irregularja Josef Laor je dejal, da je podjetje "takoj ukrepalo, vsi znani problemi na naši strani pa so bili odpravljeni in rešeni že pred več tedni".