Anthropic in Pentagon se spopadata zaradi Claudeove uporabe v vojaške namene in za množični nadzor

Anthropic se spopada s Pentagonom zaradi »neetičnih« uporab Clauda

Anthropic, eno največjih podjetij na področju umetne inteligence (AI), naj bi bilo po poročilih na udaru ministrstva za vojno zaradi uporabe njegovih AI-modelov za dejavnosti, ki jih podjetje šteje za neetične.

Axios je poročal, da obrambni minister Pete Hegseth razmišlja o tem, da bi Anthropic označil kot tveganje v dobavni verigi, kar bi pomenilo, da bi bilo treba prekiniti vse pogodbe in vezi s podjetjem. Poleg tega bi morale vse družbe, ki poslujejo s Pentagonom, opustiti tudi storitve Anthropica.

Spor je izbruhnil, ker je podjetje zavrnilo dovoljenje za uporabo Clauda, svojega paradnega modela, v kampanjah množičnega nadzora in v operacijah, ki vključujejo popolnoma avtonomno vojaško opremo. Pentagon pa trdi, da bi moral imeti možnost izkoristiti Claudove zmožnosti za »vse zakonite namene«, ne da bi imelo podjetje besedo pri teh procesih.

Če bo Anthropic dokončno označen kot tveganje v dobavni verigi, bi to pomenilo, da bi bilo treba model umakniti iz Pentagonskih informacijskih sistemov, saj ima do zaupnih sistemov organizacije dostop le Claude.

To je Claudu omogočilo, da je imel aktivno vlogo v operaciji Absolute Resolve, ki je januarja privedla do ekstrakcije venezuelskega Nicolása Madura. Čeprav vloga, ki jo je model prevzel med operacijo, ni bila v celoti razkrita, to predstavlja stopnjevanje uporabe umetne inteligence v vojaških kampanjah.

Zastoj bi lahko vzpostavil precedens pri tem, kako se lahko AI-podjetja v zahodnem svetu pogajajo z vladami ter postavil temelje za ravni nadzora, ki bi ga ta podjetja lahko ohranila nad svojimi modeli, ko se uporabljajo v vojaške namene.

Predstavnik Anthropica je izjavil, da podjetje z ministrstvom za vojno vodi »produktivne pogovore v dobri veri o tem, kako to delo nadaljevati in te nove ter kompleksne zadeve pravilno urediti.«

Pogosta vprašanja

• S katerimi težavami se Anthropic sooča pri ministrstvu za vojno?
  Anthropic je pod drobnogledom ministrstva za vojno, ker zavrača dovoljenje za uporabo svojega AI-modela Claude za dejavnosti, ki jih šteje za neetične, kot sta množični nadzor in avtonomne vojaške operacije.
• Kakšne možne posledice bi lahko doletele Anthropic, če bi bil opredeljen kot tveganje v dobavni verigi?
  Če bo označen kot tveganje v dobavni verigi, bodo vse pogodbe s Pentagonom prekinjene, kar bo zahtevalo umik Clauda iz Pentagonskih informacijskih sistemov.
• Kako se je Anthropic odzval na Pentagonske zahteve glede svojega AI-modela?
  Podjetje vztraja, da je vključen v »produktivne pogovore« z ministrstvom za vojno, s ciljem krmarjenja skozi kompleksna etična vprašanja, povezana z uporabo njegove AI-tehnologije.
• Katera nedavna vojaška operacija je vključevala Claude in kakšen je bil njen pomen?
  Claude je sodeloval v operaciji Absolute Resolve, ki je omogočila ekstrakcijo venezuelskega Nicolása Madura, kar pomeni pomembno stopnjevanje uporabe AI-tehnologij v vojski.