Anthropic Darija Amodeija tuži američku vladu, tvrdeći da se Pentagon osvetio zbog zaštitnih mjera za sigurnost umjetne inteligencije

Anthropic se suprotstavlja Ministarstvu obrane u povijesnoj AI tužbi

Prema nekoliko izvješća, Anthropic je 9. ožujka podnio dvije tužbe na saveznom sudu osporavajući poteze Ministarstva obrane SAD-a i Trumpove administracije, tvrdeći da je vlada nezakonito uzvratila protiv tvrtke nakon što je odbila ukloniti zaštitne mjere iz svog sustava umjetne inteligencije Claude. Tužbe ciljaju na oznaku koja se obično primjenjuje na strane protivnike osumnjičene za špijunažu ili sabotažu, a ne na domaće tehnološke tvrtke.

Spor seže do pregovora o ugovoru između Anthropica i Pentagona o tome kako bi se tvrtkin Claude AI model mogao koristiti u američkim obrambenim agencijama. Anthropic je ranije podupirao inicijative nacionalne sigurnosti i u lipnju 2024. postao prva vodeća (frontier) AI tvrtka koja je implementirala modele na klasificirane mreže američke vlade, pomažući analitičarima i vojnim planerima u pregledima obavještajnih podataka, simulacijama, operativnom planiranju i radu na kibernetičkoj sigurnosti.

Napetosti su eskalirale kada je Ministarstvo obrane, u sklopu obnove ugovora, zatražilo neograničen pristup Claudeu za „sve zakonite svrhe”. Anthropic je pristao na većinu uvjeta, ali je inzistirao na dvama ograničenjima: zabrani korištenja svoje AI tehnologije za masovni domaći nadzor Amerikanaca te sprječavanju ugradnje u potpuno autonomne smrtonosne oružane sustave.

Rukovoditelji tvrtke tvrdili su da su ti zaštitni okviri nužni jer su današnji vodeći AI modeli i dalje previše nepouzdani za autonomno oružje te zato što bi programi nadzora velikih razmjera mogli biti u sukobu s ustavnim zaštitama. Anthropic je naveo da ograničenja nikada nisu ometala nijednu vojnu misiju tijekom ranijeg rada s vladom.

Pregovori su propali nakon sastanka 24. veljače između izvršnog direktora Anthropica Daria Amodeija i ministra obrane Petea Hegsetha. Nekoliko dana kasnije, 27. veljače, predsjednik Donald Trump objavio je na Truth Socialu, naloživši saveznim agencijama da „odmah prestanu” koristiti Anthropicu tehnologiju, opisujući daljnje oslanjanje na tvrtku kao „katastrofalnu pogrešku”.

Ubrzo nakon toga, Hegseth je pokrenuo postupak da se Anthropic klasificira kao rizik za opskrbni lanac prema saveznim ovlastima u javnoj nabavi navedenima u 10 U.S.C. § 3252. Oznaka, potvrđena u pismu poslanom tvrtki oko 4. ožujka, ograničava određene vladine izvođače u korištenju tehnologije koja se smatra ranjivom na sabotažu ili strani utjecaj.

Anthropic tvrdi da taj potez širi primjenu zakona daleko izvan njegove izvorne namjene. U sudskim podnescima tvrtka navodi da je oznaka bila namijenjena sigurnosnim prijetnjama povezanim sa stranim subjektima, a ne nesuglasicama oko politika s domaćim dobavljačima. Tužbe tvrde da vlada nije primijenila „najmanje restriktivna sredstva” koja zakon zahtijeva, nego je nametnula ono što tvrtka opisuje kao neslužbenu crnu listu.

Pravni podnesci također otvaraju ustavna pitanja. Anthropic tvrdi da oznaka krši Prvi amandman kažnjavajući tvrtku zbog javnog zagovaranja ograničenja uporabe AI-ja, poput autonomnog oružja i domaćeg nadzora. Prema tužbi, označavanje tvrtke kao rizika za nacionalnu sigurnost narušava njezin ugled i moglo bi ugroziti ugovore vrijedne stotine milijuna dolara.

Anthropic traži od sudova da blokiraju provedbu oznake, nalože saveznim agencijama da povuku direktive kojima se zaustavlja poslovanje s tvrtkom te spriječe slične poteze u budućnosti. Tvrtka je poručila da joj cilj nije prisiliti vladu da kupuje njezinu tehnologiju, nego spriječiti odmazdu zbog razlika u politikama.

„Traženje sudske revizije ne mijenja našu dugogodišnju predanost korištenju AI-ja za zaštitu naše nacionalne sigurnosti”, rekao je glasnogovornik Anthropica u izjavi. „No ovo je nužan korak za zaštitu našeg poslovanja, naših kupaca i naših partnera.”

Dužnosnici Pentagona nisu javno komentirali parnicu, pozivajući se na politiku vezanu uz aktivne sudske postupke. Neki obrambeni čelnici ranije su tvrdili da vojne agencije moraju zadržati punu operativnu ovlast nad tehnologijama izvođača tijekom izvanrednih situacija te ne mogu dopustiti dobavljačima da diktiraju kako se sustavi koriste.

Spor dolazi u trenutku kada se utrka za osiguravanje vojnih AI ugovora intenzivira. Suparničke tvrtke, uključujući OpenAI, postigle su sporazume s Pentagonem otprilike u isto vrijeme kada su pregovori s Anthropicom propali. U međuvremenu, veliki tehnološki partneri poput Googlea i Microsofta naznačili su da namjeravaju nastaviti surađivati s Anthropicom na komercijalnim uslugama nepovezanim s obranom.

Industrijski analitičari kažu da bi ishod slučaja mogao uspostaviti presedan o tome kako savezna vlada vrši pritisak na AI tvrtke da mijenjaju sigurnosne politike kada su uključeni interesi nacionalne sigurnosti. Za sada, Anthropicu potrošački proizvodi i komercijalne AI usluge ostaju dostupni, dok pravna bitka oko oznake Pentagona započinje svoj put kroz sudove.

FAQ 🧭

• Zašto je Anthropic tužio američku vladu?
  Anthropic je podnio tužbe tvrdeći da je Pentagon nezakonito označio tvrtku kao rizik za opskrbni lanac za nacionalnu sigurnost nakon što je odbila ukloniti AI sigurnosna ograničenja.
• Što je potaknulo spor između Anthropica i Pentagona?
  Sukob je započeo tijekom pregovora o ugovoru kada je Ministarstvo obrane zahtijevalo neograničenu uporabu Anthropicu sustava Claude AI.
• Što znači oznaka „rizik za opskrbni lanac”?
  Oznaka može ograničiti vladinim izvođačima korištenje tehnologije neke tvrtke ako dužnosnici smatraju da predstavlja sigurnosne rizike ili rizike za nabavu.
• Hoće li Anthropicu AI usluge i dalje raditi tijekom tužbe?
  Da, Anthropicu komercijalni AI proizvodi i potrošačke usluge ostaju dostupni dok se pravni postupak nastavlja.