Anthropic a Pentagon se střetávají kvůli vojenskému a masově‑sledovacímu využití Claudeu

Anthropic se střetává s Pentagonem kvůli „neetickému“ využití Claudea

Anthropic, jedna z největších společností v oblasti umělé inteligence (AI), je podle zpráv pod palbou ministerstva války kvůli využívání jejích AI modelů k činnostem, které společnost považuje za neetické.

Axios informoval, že ministr obrany Pete Hegseth zvažuje označit Anthropic za riziko v dodavatelském řetězci, což by znamenalo, že všechny smlouvy a vazby na společnost by musely být ukončeny. Kromě toho by všechny firmy spolupracující s Pentagonem musely také opustit služby Anthropic.

Střet propukl poté, co společnost odmítla povolit využití Claudea, svého ochranného modelu, v kampaních hromadného sledování a v operacích zahrnujících plně autonomní vojenskou techniku. Pentagon naopak tvrdí, že by měl být schopen využít schopnosti Claudea pro „všechny zákonné účely“, aniž by do těchto procesů měla společnost co mluvit.

Pokud bude Anthropic nakonec označen jako riziko v dodavatelském řetězci, znamenalo by to, že model by musel být stažen z informačních systémů Pentagonu, protože pouze Claude má přístup k utajovaným systémům organizace.

To umožnilo Claudeovi sehrát aktivní roli v operaci Absolute Resolve, která v lednu vedla k vyvedení venezuelského Nicoláse Madura. I když role, kterou model během operace převzal, nebyla plně zveřejněna, představuje to eskalaci ve využívání AI pro vojenské kampaně.

Tento pat může vytvořit precedens v tom, jak mohou AI společnosti jednat s vládami v západním světě, a položit základ pro míru kontroly, kterou si tyto společnosti mohou nad svými modely ponechat, když jsou využívány pro vojenské účely.

Mluvčí Anthropic uvedl, že společnost vede „produktivní rozhovory v dobré víře“ s DoW o tom, jak v této práci pokračovat a jak správně uchopit tyto nové a složité otázky.

FAQ

• Jakým problémům čelí Anthropic s ministerstvem války?
  Anthropic je pod drobnohledem ministerstva války, protože odmítá povolit, aby byl jeho AI model Claude používán k činnostem, které považuje za neetické, jako je hromadné sledování a autonomní vojenské operace.
• Jaké možné důsledky by Anthropic mohl čelit, pokud bude klasifikován jako riziko v dodavatelském řetězci?
  Pokud bude označen jako riziko v dodavatelském řetězci, všechny smlouvy s Pentagonem budou ukončeny, což si vyžádá stažení Claudea z informačních systémů Pentagonu.
• Jak Anthropic reagoval na požadavky Pentagonu ohledně svého AI modelu?
  Společnost uvádí, že vede „produktivní rozhovory“ s ministerstvem války a snaží se zvládnout složité etické otázky spojené s využíváním své AI technologie.
• Která nedávná vojenská operace zahrnovala Claudea a jaký byl její význam?
  Claude se podílel na operaci Absolute Resolve, která usnadnila vyvedení venezuelského Nicoláse Madura, což představuje významnou eskalaci ve využívání AI technologií armádou.