Anthropic PBC je sporočil, da je njegovo novo orodje umetne inteligence Mythos tako učinkovito pri iskanju ranljivosti v programski opremi in računalniških sistemih, da ga ne more ponuditi širši javnosti. Tehnološki velikan je Mythos omogočil le 200 partnerskim organizacijam, saj bi lahko tako zmogljivo orodje, če bi prišlo v napačne roke, napadalcem olajšalo krajo podatkov ali motenje kritične infrastrukture.
Kljub previdnostnim ukrepom, ki jih je sprejel Anthropic, je administracija Donalda Trumpa 12. junija podjetju odredila, naj svoje najnaprednejše modele zadrži zunaj dosega vseh tujih državljanov, tako v ZDA kot zunaj njih. Da bi zagotovil skladnost z odredbo, je Anthropic, nato vsem uporabnikom onemogočil dostop do modelov Mythos 5 in Fable 5, različice Mythosa, ki mu je podjetje že prej preprečilo izvajanje nalog s področja kibernetske varnosti. Anthropic je sporočil, da je ameriška vlada odredbo po njegovem mnenju izdala po odkritju, da je mogoče Fable 5 odkleniti (jailbreak), torej obiti njegove varovalke.
Podjetja za kibernetsko javnost že več let obljubljajo, da bo umetna inteligenca pospešila in avtomatizirala del nalog pri preprečevanju digitalnih vdorov. Toda prednosti umetne inteligence so odkrili tudi hekerji in kibernetski vohuni. Na to tveganje je aprila opozoril primer, ko je manjša skupina nepooblaščenih uporabnikov na zasebnem spletnem forumu dobila dostop do Mythosa, je za Bloomberg News povedala oseba, seznanjena z zadevo, kar potrjuje tudi dokumentacija, ki jo je pregledal Bloomberg.
Pojav Mythosa in podobnih modelov, ki lahko brez človeškega nadzora izkoriščajo dobro skrite ranljivosti v priljubljeni programski opremi, kaže na novo, hitrejšo in manj predvidljivo fazo kibernetske oboroževalne tekme.
Kaj je Mythos?
Claude Mythos Preview je splošno namenski model umetne inteligence, za katerega Anthropic pravi, da na vrsti preizkusov, tudi pri kodiranju in sklepanju, občutno presega njegove prejšnje modele. Podjetje pojasnjuje, da so nekateri modeli umetne inteligence dosegli raven programerskih sposobnosti, pri kateri lahko pri iskanju in izkoriščanju ranljivosti v programski opremi prekosijo skoraj vse ljudi, razen najbolj izkušenih strokovnjakov.
Po navedbah Anthropica je Mythos Preview med testiranjem že našel več tisoč ranljivosti ničtega dne oziroma "zero-day" ranljivosti, tudi v vseh večjih operacijskih sistemih in vseh večjih spletnih brskalnikih. Gre za napake, ki jih razvijalci programske opreme prej niso poznali, izraz pa nakazuje, da imajo za pripravo popravka na voljo nič dni. Takšne ranljivosti so za hekerje pogosto izjemno dragocene, saj jim odpirajo časovno okno, v katerem lahko neovirano delujejo v ranljivih sistemih.
Anthropic je sporočil, da je Mythos te ranljivosti prepoznal s še manj človeškega posredovanja kot prejšnji modeli. "Mythos Preview pomeni velik preskok pri teh kibernetskih sposobnostih. Ranljivosti, ki jih je odkril, so v nekaterih primerih prestale desetletja človeških pregledov in milijone avtomatiziranih varnostnih testov," je navedlo podjetje. V rokah izsiljevalskih skupin ali sovražnih vlad bi lahko takšno orodje povzročilo pogostejše in še bolj uničujoče kibernetske napade.
Raziskovalci pravijo, da niso dobili dostopa, s katerim bi lahko neodvisno preverili trditve Anthropica o zmogljivosti Mythosa. Gang Wang, izredni profesor računalništva na Univerzi v Illinoisu, pravi, da je brez neposrednega testiranja težko oceniti, kako pomemben je Mythos Preview.
Kdo ima dostop do Mythosa?
Anthropic je aprila dostop omogočil omejeni skupini preverjenih partnerjev v okviru pobude Project Glasswing. Ime je dobila po vrsti metulja s prozornimi krili, ki mu omogočajo, da se skrije na očeh. Med glavnimi sodelujočimi so Amazon.com Inc., Apple Inc., Alphabet Inc., Googlov lastnik, Microsoft Corp., Nvidia Corp., Palo Alto Networks Inc., CrowdStrike Holdings Inc., Broadcom Inc., Cisco Systems Inc., JPMorganChase in Linux Foundation, neprofitna organizacija, ki podpira odprtokodne programske projekte. Kmalu zatem je Anthropic dostop razširil še na približno 40 drugih organizacij. Projekt je opisal kot "nujen poskus, da bi te zmogljivosti uporabili v obrambne namene".
V začetku junija je podjetje začelo Project Glasswing širiti na dodatnih 150 organizacij. Čeprav Anthropic ni želel razkriti imen novih sodelujočih, je sporočil, da so med njimi podjetja in neprofitne organizacije, ki razvijajo pomembno programsko kodo za širšo uporabo.
Če bo Anthropic dosegel dogovor z administracijo Donalda Trumpa in znova omogočil dostop do Mythosa, bodo te organizacije model uporabljale pri svojem obrambnem varnostnem delu. Številna podjetja že zdaj izvajajo tako imenovane penetracijske preizkuse, pri katerih najamejo strokovnjake, da v njihovih sistemih poiščejo napake, še preden jih odkrijejo hekerji. Mythos bi lahko ta proces močno pospešil, saj bi podjetjem omogočil, da hitreje odkrijejo več ranljivosti, in tako zmanjša možnosti za morebitne napade.
Zakaj je Anthropic izid Mythosa označil za prelomni trenutek?
Anthropic je Mythos Preview opisal kot "prelomni trenutek za varnost". Ranljivosti ničtega dne oziroma zero-day ranljivosti je po svoji naravi težko najti, okoli njihovega odkrivanja in prodaje vladnim obveščevalnim agencijam pa se je razvil majhen in nepregleden trg, kjer se zneski včasih merijo v milijonih dolarjev. Po navedbah Anthropica so bile ranljivosti, ki jih je odkril Mythos Preview, pogosto "subtilne in težko zaznavne". Med njimi je bila tudi 27 let stara napaka v OpenBSD, operacijskem sistemu, ki po navedbah podjetja velja za enega najbolj varnostno utrjenih na svetu. Od uvedbe Mythosa so s programsko opremo odkrili več kot 10.000 resnih ranljivosti, je Anthropic sporočil 22. maja.
Mythos naj bi bil sposoben tudi znane, a še ne splošno zakrpane ranljivosti pretvoriti v tako imenovane exploite, torej orodja oziroma postopke, ki jih lahko hekerji uporabijo za vdor v računalniška omrežja. Tako je na primer odkril in povezal več napak v jedru Linuxa, osrednjem delu operacijskega sistema in programske opreme, na kateri deluje večina svetovnih spletnih strežnikov, ter napadalcu omogočil popoln prevzem nadzora nad napravo. Anthropic je navedel tudi, da so lahko nestrokovnjaki Mythos Preview zvečer prosili, naj poišče načine za oddaljeni prevzem računalnikov, naslednje jutro pa jih je čakal popoln in delujoč exploit.
Mythos je eno od več novih orodij umetne inteligence, ki lahko iščejo ranljivosti ničtega dne ali ustvarjajo exploite. OpenAIjev Codex Security in Googlov "Big Sleep agent" sta bila razvita za iskanje ranljivosti. OpenAI po poročanju Axiosa dokončuje tudi izdelek z naprednimi kibernetskovarnostnimi zmogljivostmi, ki ga namerava ponuditi izbranim partnerjem. Raziskovalci izraelskega kibernetskovarnostnega zagonskega podjetja Buzz pa pravijo, da so razvili avtonomno orodje, ki združuje pet agentov umetne inteligence in je pri izkoriščanju znanih ranljivosti 98-odstotno uspešno.
Kakšne varovalke ima Mythos?
Anthropic priznava, da varovalke še niso dokončno izpopolnjene. Model naj bi dosegal izjemno visoko raven zanesljivosti in usklajenosti s človeškimi navodili, vendar podjetje opozarja, da se v redkih primerih še vedno lahko obnaša nepredvidljivo. Takrat naj bi počel stvari, ki so po njihovih besedah "precej skrb vzbujajoče".
V enem od preizkusov je raziskovalec zgodnji različici Mythosa naročil, naj poskuša uiti iz zavarovanega in izoliranega računalniškega okolja, tako imenovanega peskovnika, nato pa naj najde način, kako mu poslati sporočilo. Mythosu je to uspelo, vendar se pri tem ni ustavil. Nadaljeval je z dodatnimi, še bolj skrb vzbujajočimi koraki in razvil večstopenjski exploit, s katerim je poskušal pridobiti dostop do interneta.
Anthropic pravi, da Mythos Preview zaradi možnosti zlorab ne namerava ponuditi širši javnosti. Kljub temu si podjetje dolgoročno želi, da bi uporabniki lahko v večjem obsegu uporabljali modele razreda Mythos. Za to pa bodo morali najprej razviti boljše kibernetskovarnostne in druge varovalke, ki bodo znale prepoznati in blokirati najnevarnejše izhode modela, so navedli.
Pri najresnejših ranljivostih, ki jih odkrije Mythos, so še vedno vključeni ljudje. Po navedbah Anthropica strokovnjaki najprej preverijo takšna odkritja, šele nato informacije posredujejo vzdrževalcem kode. Gre za nujen, a zamuden postopek, ki pa bi lahko z izboljševanjem modela sčasoma izginil, pravi Wang, profesor računalništva na Univerzi v Illinoisu.
Ali Mythos daje prednost kibernetskim branilcem pred hekerji?
Morda, vendar se to verjetno ne bo zgodilo takoj. Postopek, po katerem Anthropic odkrite ranljivosti sporoča vzdrževalcem programske opreme ali računalniških sistemov, je lahko dolgotrajen. Do zdaj je bilo po navedbah podjetja zakrpanih približno 14 odstotkov ranljivosti visoke ali kritične resnosti, ki jih je odkril Mythos Preview.
Hkrati pa hekerji umetno inteligenco uporabljajo za to, da po razkritju ranljivosti veliko hitreje najdejo načine za njihovo izkoriščanje. Ponudnike programske opreme se spodbuja, v nekaterih primerih pa tudi zavezuje, da odkrite ranljivosti javno razkrijejo in v idealnem primeru ponudijo popravek. To pomeni, da imajo kibernetski strokovnjaki vse manj časa za krpanje svojih omrežij. Nikesh Arora, izvršni direktor Palo Alto Networks, je v objavi 30. marca opozoril, da se bo v prihodnjih šestih mesecih prag za izvedbo zahtevnejših napadov še naprej zniževal. "En sam zlonamerni akter bo zdaj lahko izvajal kampanje, za katere so bile prej potrebne celotne ekipe," je zapisal.
Yair Saban,ki vodi Buzz in je nekdanji član izraelske kibernetske enote 8200, pravi, da je ekipa šestih inženirjev njihovo hekersko orodje z umetno inteligenco razvila v treh tednih. Enako lahko po njegovih besedah gotovo storijo tudi drugi, vključno z državnimi kibernetskimi vohuni in kriminalnimi hekerji.
Anthropic vztraja, da bodo Mythos Preview in podobna orodja umetne inteligence na koncu koristila predvsem obrambi. "Dolgoročno pričakujemo, da bodo prevladale obrambne zmogljivosti: svet bo postal varnejši, programska oprema pa bolje utrjena, v veliki meri tudi zaradi kode, ki jo bodo pisali ti modeli," je 7. aprila v blogu zapisala ekipa Frontier Red Team. "Toda prehodno obdobje bo tvegano."
.webp){kind=icon}
