Poročilo: Anthropikov Claude AI se sooča z negotovo prihodnostjo v tajnih sistemih Pentagona

Upravljanje vojaške UI na preizkušnji v pomembnem sestanku v Pentagonu

Sestanek 24. februarja je sledil tednom napetosti glede pravilnikov uporabe podjetja Anthropic za Claude, veliki jezikovni model, integriran v zaupna omrežja obrambnega ministrstva v okviru pilotne pogodbe za leto 2025, vredne do 200 milijonov dolarjev. Claude je trenutno edini v celoti odobren veliki jezikovni model, ki deluje v določenih varnih sistemih Pentagona.

Po poročanju Axios reporting so Hegseth, skupaj z namestnikom ministra Stevom Feinbergom in glavnim pravnim svetovalcem Earlom Matthewsom, nasprotovali omejitvam podjetja Anthropic glede množičnega nadzora Američanov ter glede popolnoma avtonomnih orožnih sistemov, ki delujejo brez človeškega nadzora. Obrambni uradniki so trdili, da te omejitve zamejujejo zakonite vojaške uporabe in ne bi smele prevladati nad kongresno in izvršno avtoriteto.

Anthropic vztraja, da so njegovi zaščitni ukrepi zasnovani za preprečevanje zlorab, hkrati pa še vedno omogočajo uporabe za nacionalno varnost. Podjetje pravi, da njegovi pravilniki ne blokirajo legitimne vojaške uporabe, vendar prepovedujejo dejavnosti, kot sta sledenje posameznikom brez privolitve ali nameščanje smrtonosnih sistemov brez človeškega nadzora.

»Po besedah vira, seznanjenega s pogovori, Anthropic nikoli ni nasprotoval uporabi svojih modelov za ‘legitimne vojaške operacije’,« je na X poročala glavna dopisnica Fox News za nacionalno varnost Jennifer Griffin. »Hegsethu je tudi povedal, da se Pentagonu ali Palantirju nikoli ni pritoževal glede uporabe svojih modelov v napadu na Madura.«

Claude je bil uporabljen za obveščevalno analizo, kibernetsko obrambo in operativno načrtovanje. Poročila navajajo, da je podpiral načrtovanje in analizo v realnem času med operacijo 3. januarja, ki je privedla do zajetja venezuelskega predsednika Nicolása Madura. Anthropic je pozneje v okviru notranjega pregleda skladnosti zaprosil za pojasnilo o vpletenosti modela, kar so pentagonski uradniki razumeli kot kritiko.

9. januarja je Hegseth izdal memorandum, v katerem je ponudnike umetne inteligence (UI) pozval, naj odstranijo, kar je opisal kot restriktivne pogoje. Ta usmeritev je pripravila teren za ponovno pogajanje in na koncu za sestanek 24. februarja.

Pentagon je postavil rok 27. februarja, do katerega mora Anthropic spremeniti svoje pogoje. Možni odzivi vključujejo uporabo Zakona o obrambni proizvodnji (Defense Production Act) za prisilitev k skladnosti ali označitev podjetja Anthropic kot tveganja v dobavni verigi, kar bi lahko od izvajalcev zahtevalo odprodajo iz sistemov, povezanih s Claudeom.

Uradniki priznavajo, da bi bilo razdruževanje Clauda od obstoječe infrastrukture operativno zapleteno. Kljub temu ima ministrstvo alternative. Konkurenti, kot je xAI s svojim modelom Grok, OpenAI s ChatGPT in Google z Geminijem, imajo podobne pogodbe z obrambnim ministrstvom in bi lahko razširili svoje vloge, če bi pogovori propadli.

Spor izpostavlja širša vprašanja o upravljanju UI v vojaških okoljih, zlasti ker se zvezna zakonodaja še naprej razvija glede nastajajočih tehnologij. Na kocki je, ali lahko zasebni razvijalci UI ohranijo neodvisne etične politike, ko se njihovi sistemi vgradijo v operacije nacionalne varnosti.

Odziv na družbenih omrežjih je bil opazno neposreden. »Vrnili smo se k nadzoru brez sodnega naloga,« je eden od uporabnikov X zapisal kot odziv na objavo Griffinove na X. »To bi morala biti precej večja novica, kot je. Obstaja resna možnost kršitev ustave,« je drugi odvrnil v odzivu na Griffinino besedilo. Drugi so z dozo črnega humorja zafrkavali, da prihod Skyneta morda ni več daleč. »Skynet je tu… časovnica 2029 je AKTIVNA,« je pripomnil posameznik.

Obe strani sta razpravo 24. februarja opisali kot vsebinsko. Ali bo Anthropic svoje zaščitne ukrepe prilagodil pred rokom, bi lahko določilo prihodnost ene najnaprednejših integracij UI v Pentagonu.

FAQ 🤖

• Kaj je bilo obravnavano na sestanku v Pentagonu 24. februarja?
  Sestanek se je osredotočil na omejitve podjetja Anthropic pri Claudu in na to, ali te omejujejo zakonite vojaške uporabe.
• Zakaj Pentagon pritiska na Anthropic?
  Obrambni uradniki trdijo, da zaščitni ukrepi podjetja posegajo v odobrene uporabe za nacionalno varnost.
• Kaj se lahko zgodi, če Anthropic ne bo izpolnil zahtev?
  Pentagon bi lahko uporabil Zakon o obrambni proizvodnji ali podjetje označil kot tveganje v dobavni verigi.
• Ali obstajajo alternative Claudu?
  Da, modeli podjetij xAI, OpenAI in Google so vključeni v pogodbe z obrambnim ministrstvom in se lahko po potrebi razširijo.