Anthropic a Pentagón sa dostali do sporu kvôli vojenskému a masovo‑sledovaciemu využívaniu Claudea

Anthropic sa dostáva do konfliktu s Pentagónom pre „neetické“ využitia Claude

Anthropic, jedna z najväčších spoločností v oblasti umelej inteligencie (AI), je údajne pod paľbou Ministerstva vojny kvôli používaniu jej AI modelov na aktivity, ktoré spoločnosť považuje za neetické.

Axios informoval, že minister obrany Pete Hegseth zvažuje označiť Anthropic za riziko dodávateľského reťazca, čo by znamenalo, že všetky zmluvy a väzby na spoločnosť by museli byť prerušené. Okrem toho by všetky spoločnosti obchodujúce s Pentagónom museli tiež opustiť služby Anthropic.

Konflikt prepukol po tom, čo spoločnosť odmietla povoliť používanie Claude, svojho vlajkového modelu, v kampaniach masového dohľadu a v operáciách zahŕňajúcich plne autonómne vojenské vybavenie. Na druhej strane Pentagón tvrdí, že by mal byť schopný využiť schopnosti Claude na „všetky zákonné účely“ bez toho, aby spoločnosť mala právo zasahovať do týchto procesov.

Ak bude Anthropic napokon označený za riziko dodávateľského reťazca, znamenalo by to, že model by musel byť stiahnutý z informačných systémov Pentagónu, keďže iba Claude má prístup k utajovaným systémom organizácie.

To umožnilo Claudovi zohrať aktívnu úlohu v operácii Absolute Resolve, ktorá v januári viedla k exfiltrácii venezuelského Nicolása Madura. Hoci úloha, ktorú model počas operácie prevzal, nebola úplne zverejnená, predstavuje to eskaláciu v používaní AI pri vojenských kampaniach.

Patová situácia by mohla vytvoriť precedens v tom, ako môžu AI spoločnosti spolupracovať s vládami v západnom svete, čím by sa položil základ pre úroveň kontroly, ktorú si tieto spoločnosti môžu zachovať nad svojimi modelmi pri použití na vojenské účely.

Hovorca Anthropic uviedol, že spoločnosť vedie „produktívne rozhovory v dobrej viere“ s DoW o tom, ako v tejto práci pokračovať a ako správne uchopiť tieto nové a zložité otázky.

FAQ

• Akým problémom čelí Anthropic s Ministerstvom vojny?
  Anthropic je pod drobnohľadom Ministerstva vojny za to, že odmieta povoliť používanie svojho AI modelu Claude na aktivity, ktoré považuje za neetické, ako je masový dohľad a autonómne vojenské operácie.
• Aké možné dôsledky by Anthropic mohol čeliť, ak by bol klasifikovaný ako riziko dodávateľského reťazca?
  Ak bude označený za riziko dodávateľského reťazca, všetky zmluvy s Pentagónom by boli ukončené, čo by si vyžiadalo stiahnutie Claude z informačných systémov Pentagónu.
• Ako Anthropic reagoval na požiadavky Pentagónu týkajúce sa jeho AI modelu?
  Spoločnosť tvrdí, že vedie „produktívne rozhovory“ s Ministerstvom vojny a snaží sa zorientovať v zložitých etických otázkach súvisiacich s používaním jej AI technológie.
• Ktorá nedávna vojenská operácia zahŕňala Claude a aký bol jej význam?
  Claude sa zúčastnil operácie Absolute Resolve, ktorá uľahčila exfiltráciu venezuelského Nicolása Madura, čím došlo k významnej eskalácii v používaní AI technológií armádou.