Zpráva: Umělá inteligence Claude od společnosti Anthropic čelí nejisté budoucnosti v utajovaných systémech Pentagonu

Vysoké sázky: Schůzka v Pentagonu prověřuje správu vojenské AI

Schůzka z 24. února následovala po týdnech napětí kvůli zásadám používání Claude od společnosti Anthropic, velkého jazykového modelu integrovaného do utajovaných sítí ministerstva obrany na základě pilotní smlouvy z roku 2025 v hodnotě až 200 milionů dolarů. Claude je v současnosti jediným plně autorizovaným velkým jazykovým modelem, který funguje napříč některými zabezpečenými systémy Pentagonu.

Podle reportáže Axios Hegseth, spolu se zástupcem ministra Stevem Feinbergem a hlavním právním poradcem Earlem Matthewsem, vznesl námitky proti omezením Anthropic týkajícím se masového sledování Američanů a plně autonomních zbraňových systémů fungujících bez lidského dohledu. Obranní představitelé tvrdili, že tyto limity omezují zákonné vojenské využití a neměly by přebíjet pravomoci Kongresu a výkonné moci.

Anthropic trvá na tom, že jeho ochranná opatření jsou navržena tak, aby zabránila zneužití a zároveň umožňovala využití pro národní bezpečnost. Společnost uvádí, že její zásady neblokují legitimní vojenské použití, ale zakazují činnosti jako sledování jednotlivců bez souhlasu nebo nasazení smrtících systémů bez lidské kontroly.

„Podle zdroje obeznámeného s jednáními Anthropic nikdy neodmítal použití svých modelů pro ‚legitimní vojenské operace‘,“ uvedla na X hlavní zpravodajka Fox News pro národní bezpečnost Jennifer Griffin. „Také Hegsethovi řekl, že si nikdy nestěžoval Pentagonu ani Palantiru na používání svých modelů při zásahu proti Madurovi.“

Claude byl využíván pro zpravodajskou analýzu, kybernetickou obranu a operační plánování. Zprávy naznačují, že podporoval plánování a analýzu v reálném čase během operace z 3. ledna, která vedla k zajetí venezuelského prezidenta Nicoláse Madura. Anthropic později požádal o upřesnění zapojení modelu v rámci interního přezkumu souladu s předpisy, což představitelé Pentagonu interpretovali jako kritiku.

Dne 9. ledna Hegseth vydal memorandum, v němž vyzval poskytovatele umělé inteligence (AI), aby odstranili to, co označil za omezující podmínky. Tato směrnice připravila půdu pro znovujednávání a nakonec pro schůzku z 24. února.

Pentagon stanovil Anthropic termín do 27. února na úpravu jeho podmínek. Mezi možné reakce patří využití zákona Defense Production Act k vynucení souladu nebo označení Anthropic za riziko v dodavatelském řetězci, což by mohl být krok, který by vyžadoval, aby dodavatelé odprodali systémy související s Claudem.

Představitelé připouštějí, že vyvázání Claude ze stávající infrastruktury by bylo z provozního hlediska složité. Ministerstvo však má alternativy. Konkurenti jako xAI se svým modelem Grok, OpenAI s ChatGPT a Google s Gemini jsou v podobných smlouvách s ministerstvem obrany a mohou být připraveni rozšířit své role, pokud jednání ztroskotají.

Spor zdůrazňuje širší otázky správy AI ve vojenském prostředí, zejména když se federální právo kolem vznikajících technologií dál vyvíjí. V sázce je, zda si soukromí vývojáři AI mohou udržet nezávislé etické zásady, když se jejich systémy stanou součástí operací národní bezpečnosti.

Reakce napříč platformami sociálních médií byly pozoruhodně otevřené. „Sledování bez příkazu je zpátky,“ napsal jeden uživatel X v reakci na příspěvek Griffinové. „Tohle by mělo být mnohem větší zpráva, než jakou je. Je tu vážná šance na porušení ústavy,“ odpověděl další pod jejím textem. Jiní s dávkou černého humoru žertovali, že příchod Skynetu možná není daleko. „Skynet je tady… časová osa 2029 je AKTIVNÍ,“ poznamenal dotyčný.

Obě strany označily diskusi z 24. února za věcnou. To, zda Anthropic před termínem upraví svá ochranná opatření, může rozhodnout o budoucnosti jedné z nejpokročilejších integrací AI v Pentagonu.

FAQ 🤖

• Co se probíralo na schůzce v Pentagonu 24. února?
  Schůzka se zaměřila na omezení, která Anthropic u AI Claude nastavuje, a na to, zda neomezují zákonné vojenské využití.
• Proč Pentagon vyvíjí tlak na Anthropic?
  Představitelé obrany tvrdí, že ochranná opatření společnosti zasahují do autorizovaného využití pro národní bezpečnost.
• Co se může stát, pokud Anthropic nevyhoví?
  Pentagon může uplatnit Defense Production Act nebo společnost označit za riziko v dodavatelském řetězci.
• Existují alternativy ke Claude?
  Ano, modely od xAI, OpenAI a Google jsou v rámci smluv s ministerstvem obrany a v případě potřeby mohou své zapojení rozšířit.