Musk v tekmi za pogodbo s Pentagonom za avtonomne drone

Elon Muskov SpaceX in njegova hčerinska družba xAI, ki je v celoti v lasti podjetja, tekmujeta v tajnem natečaju Pentagona za izdelavo tehnologije za avtonomno rojenje dronov z glasovnim upravljanjem, poročajo ljudje, seznanjeni z zadevo.

Vstop obeh Muskovih podjetij – za katera je Musk napovedal združitev v začetku februarja – v novo področje razvoja orožja z umetno inteligenco pomeni novo in potencialno kontroverzno odločitev za Muska. Čeprav je SpaceX uveljavljen obrambni izvajalec in je Musk navdušen nad razvojem umetne inteligence, saj je med tistimi, ki so že prej nasprotovali izdelavi "novih orodij za ubijanje ljudi".

Muskovi podjetji sta med le peščico tistih, ki so bila izbrana za potegovanje za pogodbo v višini 100 milijonov dolarjev. Pentagon je ponudbo objavil januarja, pravijo ljudje, seznanjeni z zadevo, ki so želeli ostati anonimni, da bi razpravljali o občutljivih temah. Vpletenost SpaceXa in xAI predhodno v medijih ni bila objavljena.

SpaceX in xAI se na prošnje za komentar nista odzvala.

Namen šestmesečnega tekmovanja je razviti napredno tehnologijo rojenja, ki lahko glasovne ukaze pretvori v digitalna navodila in upravlja več dronov.

Čeprav je že mogoče upravljati več dronov hkrati, ostaja razvoj programske opreme za vodenje večjega števila dronov na morju in v zraku kot roj – ki se lahko avtonomno premika v zasledovanju cilja – izziv. Tekmovanje bo potekalo v fazah, odvisno od uspeha in zanimanja udeležencev, so povedali viri.

Tekmovanje Pentagona sta skupaj začela Enota za obrambne inovacije (Defense Innovation Unit), ki se posveča privabljanju zagonskih podjetij iz Silicijeve doline, in Skupina za obrambno avtonomno vojskovanje (Defense Autonomous Warfare Group) – nov element, ustanovljen v drugi Trumpovi administraciji, ki je del ameriškega poveljstva za specialne operacije. DAWG delno nadaljuje delo pobude Replicator iz Bidenove dobe, katere cilj je bil izdelati več tisoč avtonomnih dronov za enkratno uporabo.

DIU se na prošnjo za komentar ni odzval. Poveljstvo za specialne operacije, ki vodi DAWG, je zavrnilo komentar.

Razvoj naj bi potekal v petih fazah, začenši z razvojem programske opreme in vse do testiranja v resničnem življenju. Vladni uradniki so v januarski objavi natečaja nakazali, da bodo droni uporabljeni v ofenzivne namene, in dejal, da bo interakcija med človekom in strojem "neposredno vplivala na smrtonosnost in učinkovitost teh sistemov".

Varnostna dovoljenja

Podjetje xAI je pred kratkim začelo z zaposlovanjem inženirjev iz Washingtona in zahodne obale ZDA z varnostnim dovoljenjem ZDA in stopnjo tajno ali strogo tajno za delo z zveznimi izvajalci, je zapisano na spletni strani podjetja. Iščejo programske inženirje, ki so vajeni dela z "vladnimi agencijami, ministrstvom za obrambo ZDA ali zveznimi izvajalci pri projektih umetne inteligence, programske opreme ali podatkov", so zapisali v objavi delovnega mesta in dodali, da bo postopek zaposlovanja končan v enem tednu.

Podjetje je že podpisalo pogodbe s Pentagonom za integracijo svojega AI klepetalnika Grok v delo vladnih organov, da bi "opolnomočili vojsko in civiliste", je decembra sporočilo podjetje xAI. Pred tem je s Pentagonom sklenilo pogodbo v vrednosti 200 milijonov dolarjev za integracijo xAI v vojaške sisteme.

Čeprav je SpaceX dolgoletni obrambni izvajalec, se je podjetje osredotočilo na izdelavo vesoljskih raket in satelitov za večkratno uporabo za raziskovanje vesolja, vojaške komunikacije in obveščevalne sisteme, ne pa na programsko opremo za ofenzivno orožje. SpaceX je skupaj z Boeingom in Lockheed Martinom ameriški dobavitelj raket za izstrelitev najobčutljivejših satelitov Pentagona.

Musk se je že prej zavzemal za prepoved ofenzivnega avtonomnega orožja, ki lahko izbira in napada lastne cilje ter deluje zunaj smiselnega človeškega nadzora.

Leta 2015 je Musk podpisal odprto pismo raziskovalcev umetne inteligence in robotike, ki je svarilo pred nevarnostmi avtonomnega orožja.

xAI, ki ga je Musk ustanovil leta 2023, je lastnik Muskovega zagonskega podjetja za umetno inteligenco, družbenega omrežja X in klepetalnega robota Grok. Podjetje, ki se je pred nekaj tedni strinjalo z združitvijo s SpaceX v poslu, vrednem 1,25 bilijona dolarjev, je obremenjeno z milijardami dolarjev dolgov, spopada se z dobro financirani tekmeci in se sooča z vse večjim nadzorom regulatorjev, potem ko je njegov klepetalni robot širil spolno občutljive slike. Prav tako prinaša skromne prihodke v primerjavi s SpaceX.

Ko sta se obe strinjali z združitvijo, je Musk na spletni strani SpaceXa objavil izjavo, da je podjetje prevzelo xAI, da bi "oblikovalo najbolj ambiciozen, vertikalno integriran inovacijski motor na (in zunaj) Zemlje, z umetno inteligenco, raketami, vesoljskim internetom, komunikacijo neposredno na mobilne naprave in vodilno svetovno platformo za informacije v realnem času in svobodo govora".

Musk ni nič povedal o združitvi obeh podjetij za dobavo umetne inteligence, ki bi zagotovila programsko opremo, ki bo podlaga za novo tehnologijo orožja. Toda novi projekt Pentagona, v katerem bodo sodelovali inženirji in menedžerji iz xAI in SpaceX, si bo prizadeval prav za to.

Prva faza tekmovanja bi se osredotočila le na razvoj programske opreme, kasneje pa bi se uporabile platforme v živo. Programska oprema je namenjena koordinaciji gibanja dronov na več področjih, na primer po zraku in morju, v skladu z opisom naloge Pentagona. Kasnejše faze zahtevajo razvoj "ozaveščenosti in deljenja, povezanega s cilji" ter na koncu "izstrelitev do uničenja".

xAI ni edino napredno podjetje za umetno inteligenco, ki dela na novem projektu Pentagona. OpenAI podpira uspešno prijavo podjetja Applied Intuition, je prej poročal Bloomberg, pri čemer se je skliceval na prijavo in ljudi, ki so seznanjeni z zadevo.

OpenAI bo svoj prispevek k projektu omejil izključno na element "nadzora misije", ki bo pretvarjal glas in druga navodila poveljnikov na bojišču.

Tiskovni predstavnik podjetja OpenAI je povedal, da je bila odprtokodna tehnologija podjetja vključena v natečaje dveh različnih obstoječih partnerskih podjetij in da bo OpenAI zagotovil, da bo vsaka uporaba njegovih orodij skladna z njegovo politiko uporabe.

Po mnenju ljudi, ki so seznanjeni z zadevo, pa naj bi SpaceX in xAI na celotnem projektu sodelovala.

Možnost integracije klepetalnih robotov in glasovnih ukazov v orožne platforme je po besedah ​​več ljudi vznemirila celo nekatere obrambne uradnike kljub Pentagonovi želji po pospešitvi sprejemanja umetne inteligence in avtonomije. Dejali so, da bi bilo pomembno, da se generativna umetna inteligenca omeji na prevajanje in da se ji ne dovoli nadzor nad vodenjem dronov.

Več ljudi je izrazilo zaskrbljenost zaradi tveganj, če bi se generativna umetna inteligenca uporabljala za prevajanje glasu v operativne odločitve brez človeškega posredovanja.

Do tega koraka je prišlo, ko so zaposleni v večjih laboratorijih odšli, potem ko so izrazili vrsto drugih etičnih pomislekov glede industrije umetne inteligence, čeprav vodilna podjetja za generativno umetno inteligenco zahtevajo prihodke za podporo tekočih raziskav in razvoja. Med njimi sta raziskovalka OpenAI, ki je dejala, da jo skrbijo oglasi v klepetalniku ChatGPT, in raziskovalka pri Anthropicu, ki je odstopila, kar je sprožilo širšo zaskrbljenost glede razvoja umetne inteligence.

Veliki jezikovni modeli, ki podpirajo klepetalne robote, kot je ChatGPT OpenAI, so nagnjeni k pristranskosti in tako imenovanim halucinacijam – kar pomeni, da lahko ustvarijo odgovore, ki niso resnični, vendar jih lahko umetna inteligenca predstavi kot zanesljive.

Nova strategija Pentagona za pospeševanje umetne inteligence, objavljena januarja, si prizadeva sprostiti agente umetne inteligence za vojne namene, od načrtovanja vojaških kampanj do ciljanja, kar lahko vključuje tudi napade.

Obrambne pogodbe so bile v preteklosti sporne znotraj podjetij za potrošniško tehnologijo, vključno z znatnimi protesti pri Googlu leta 2018 zaradi prizadevanj Pentagona z imenom Project Maven, ki je nameraval uporabiti umetno inteligenco za analizo posnetkov dronov.

— S pomočjo Carmen Arroyo, Loren Grush in Anthonyja Capaccia