Anthropic Daria Amodeija toži ameriško vlado, češ da se je Pentagon maščeval zaradi varoval za varnost umetne inteligence

Anthropic se v prelomni tožbi na področju UI spopada z obrambnim ministrstvom

Po več poročilih je Anthropic 9. marca na zveznem sodišču vložil dve tožbi, s katerima izpodbija ukrepe ameriškega ministrstva za obrambo in Trumpove administracije, ter trdi, da se je vlada proti podjetju nezakonito maščevala, potem ko je to zavrnilo odstranitev varoval iz svojega sistema umetne inteligence Claude. Tožbi ciljata na oznako, ki se običajno uporablja za tuje nasprotnike, osumljene vohunjenja ali sabotaže, ne pa za domača tehnološka podjetja.

Spor izvira iz pogodbenih pogajanj med Anthropicom in Pentagonом o tem, kako bi lahko model UI Claude uporabljale ameriške obrambne agencije. Anthropic je prej podpiral pobude za nacionalno varnost in junija 2024 postal prvo podjetje s frontier UI, ki je modele uvedlo v tajna omrežja ameriške vlade, pri čemer je analitikom in vojaškim načrtovalcem pomagalo pri pregledu obveščevalnih podatkov, simulacijah, operativnem načrtovanju in kibernetski varnosti.

Napetosti so se stopnjevale, ko je obrambno ministrstvo v okviru podaljšanja pogodbe zahtevalo neomejen dostop do Clauda za »vse zakonite namene«. Anthropic je privolil v večino pogojev, vendar je vztrajal pri dveh omejitvah: prepovedi uporabe svoje UI za množični domači nadzor Američanov ter preprečitvi uvedbe v povsem avtonomne smrtonosne orožne sisteme.

Vodstvo podjetja je trdilo, da so te varovalke potrebne, ker so trenutni frontier modeli UI še vedno preveč nezanesljivi za avtonomno orožje in ker bi programi obsežnega nadzora lahko bili v nasprotju z ustavnimi zaščitami. Anthropic je navedel, da omejitve v okviru njihovega prejšnjega dela z vlado nikoli niso ovirale nobene vojaške misije.

Pogajanja so propadla po srečanju 24. februarja med izvršnim direktorjem Anthropica Dariom Amodeijem in obrambnim ministrom Petom Hegsethom. Nekaj dni pozneje, 27. februarja, je predsednik Donald Trump na Truth Social objavil sporočilo, v katerem je zveznim agencijam naročil, naj »takoj prenehajo« uporabljati tehnologijo Anthropica, pri čemer je nadaljnje zanašanje na podjetje označil za »katastrofalno napako«.

Kmalu zatem je Hegseth ukrepal in Anthropica uvrstil med tveganja v dobavni verigi na podlagi zveznih pooblastil za javna naročila, opisanih v 10 U.S.C. § 3252. Oznaka, potrjena v pismu, poslanem podjetju okoli 4. marca, nekaterim vladnim izvajalcem omejuje uporabo tehnologije, za katero se šteje, da je ranljiva za sabotažo ali tuji vpliv.

Anthropic trdi, da takšna poteza razteza zakon bistveno dlje od njegovega namena. V sodnih vlogah podjetje navaja, da je bila oznaka namenjena varnostnim grožnjam, povezanim s tujino, in ne političnim nesoglasjem z domačimi dobavitelji. Tožbi trdita, da vlada ni uporabila »najmanj omejevalnih sredstev«, ki jih zahteva zakon, temveč je namesto tega uvedla, kot jo opisuje podjetje, neuradno črno listo.

Pravne vloge odpirajo tudi ustavna vprašanja. Anthropic trdi, da oznaka krši prvi amandma, ker kaznuje podjetje zaradi javnega zagovarjanja omejitev uporabe UI, kot sta avtonomno orožje in domači nadzor. Po navedbah v tožbi označitev podjetja kot tveganja za nacionalno varnost škodi njegovemu ugledu in bi lahko ogrozila pogodbe v vrednosti več sto milijonov dolarjev.

Anthropic od sodišč zahteva, naj preprečijo uveljavljanje oznake, zveznim agencijam odredijo umik direktiv o ustavitvi poslovanja s podjetjem in preprečijo podobne ukrepe v prihodnje. Podjetje je povedalo, da njegov cilj ni prisiliti vlade, da kupuje njegovo tehnologijo, temveč preprečiti povračilne ukrepe zaradi razlik v politiki.

»Iskanje sodnega varstva ne spreminja naše dolgoletne zavezanosti, da UI uporabimo za zaščito naše nacionalne varnosti,« je v izjavi dejal predstavnik Anthropica. »Toda to je nujen korak za zaščito našega poslovanja, naših strank in naših partnerjev.«

Uradniki Pentagona o sodnem postopku niso javno komentirali, pri čemer so se sklicevali na politiko glede aktivnih sodnih zadev. Nekateri obrambni voditelji so že prej trdili, da morajo vojaške agencije med izrednimi razmerami ohraniti polna operativna pooblastila nad tehnologijami izvajalcev in ne morejo dovoliti, da dobavitelji narekujejo, kako se sistemi uporabljajo.

Spor prihaja v času, ko se tekma za zagotovitev vojaških pogodb za UI zaostruje. Konkurenčna podjetja, vključno z OpenAI, so približno v istem času, ko so se pogajanja z Anthropicom sesula, dosegla dogovore s Pentagonom. Medtem so veliki tehnološki partnerji, kot sta Google in Microsoft, nakazali, da nameravajo še naprej sodelovati z Anthropicom pri komercialnih storitvah, ki niso povezane z obrambo.

Analitiki v panogi pravijo, da bi izid primera lahko vzpostavil precedens za to, kako zvezna vlada pritiska na podjetja UI, da spremenijo varnostne politike, kadar so v igri interesi nacionalne varnosti. Za zdaj so Anthropikovi potrošniški izdelki in komercialne storitve UI še vedno na voljo, medtem ko se pravni boj glede oznake Pentagona začne prebijati skozi sodišča.

FAQ 🧭

• Zakaj je Anthropic tožil ameriško vlado?
  Anthropic je vložil tožbi z navedbo, da je Pentagon podjetje nezakonito označil za tveganje v dobavni verigi za nacionalno varnost, potem ko ni želelo odstraniti varnostnih omejitev UI.
• Kaj je sprožilo spor med Anthropicom in Pentagonom?
  Spor se je začel med pogodbenimi pogajanji, ko je obrambno ministrstvo zahtevalo neomejeno uporabo Anthropikovega sistema UI Claude.
• Kaj pomeni oznaka »tveganje v dobavni verigi«?
  Oznaka lahko omeji vladnim izvajalcem uporabo tehnologije podjetja, če uradniki menijo, da predstavlja varnostna ali nabavna tveganja.
• Ali bodo Anthropikove storitve UI med tožbo še delovale?
  Da, Anthropikovi komercialni izdelki UI in potrošniške storitve ostajajo na voljo, medtem ko sodni postopek poteka.