Správa: AI Claude od Anthropic čelí neistému budúcemu vývoju v utajovaných systémoch Pentagónu

Vysokostretnutie v Pentagóne preverilo riadenie vojenskej AI

Stretnutie z 24. februára nasledovalo po týždňoch napätia v súvislosti so zásadami používania Claude od spoločnosti Anthropic — veľkého jazykového modelu integrovaného do utajovaných sietí ministerstva obrany v rámci pilotnej zmluvy na rok 2025 v hodnote až 200 miliónov dolárov. Claude je v súčasnosti jediným plne autorizovaným veľkým jazykovým modelom, ktorý funguje naprieč niektorými zabezpečenými systémami Pentagónu.

Podľa reportáže Axios Hegseth, spolu so zástupcom ministra Steveom Feinbergom a hlavným právnym poradcom Earlom Matthewsom, namietal proti obmedzeniam spoločnosti Anthropic týkajúcim sa masového sledovania Američanov a plne autonómnych zbraňových systémov fungujúcich bez ľudského dohľadu. Predstavitelia obrany tvrdili, že tieto limity obmedzujú zákonné vojenské využitia a nemali by prevažovať nad kongresovou a výkonnou autoritou.

Spoločnosť Anthropic naďalej trvá na tom, že jej ochranné opatrenia sú navrhnuté tak, aby zabránili zneužitiu, pričom zároveň umožňujú aplikácie pre národnú bezpečnosť. Firma uvádza, že jej politiky neblokujú legitímne vojenské použitie, ale zakazujú činnosti, ako je sledovanie jednotlivcov bez súhlasu alebo nasadenie smrteľných systémov bez ľudskej kontroly.

„Podľa zdroja oboznámeného s rozhovormi Anthropic nikdy nenamietal proti používaniu svojich modelov na ‘legitímne vojenské operácie’,“ uviedla na X hlavná korešpondentka Fox News pre národnú bezpečnosť Jennifer Griffin. „Zároveň povedal Hegsethovi, že sa nikdy nesťažoval Pentagónu ani Palantiru na používanie svojich modelov pri zásahu proti Maduromu.“

Claude sa používal na spravodajskú analýzu, kybernetickú obranu a operačné plánovanie. Správy naznačujú, že podporoval plánovanie a analýzu v reálnom čase počas operácie z 3. januára, ktorá vyústila do zadržania venezuelského prezidenta Nicolása Madura. Anthropic neskôr požiadal o objasnenie zapojenia modelu v rámci interného preverenia súladu, čo predstavitelia Pentagónu interpretovali ako kritiku.

Dňa 9. januára Hegseth vydal memorandum, v ktorom vyzval poskytovateľov umelej inteligencie (AI), aby odstránili to, čo označil za obmedzujúce podmienky. Táto smernica pripravila pôdu pre opätovné rokovania a napokon aj pre stretnutie 24. februára.

Pentagón stanovil pre Anthropic termín do 27. februára na úpravu jeho podmienok. Medzi možné reakcie patrí využitie zákona Defense Production Act na vynútenie súladu alebo označenie spoločnosti Anthropic za riziko dodávateľského reťazca — krok, ktorý by mohol vyžadovať, aby dodávatelia odpredali systémy súvisiace s Claude.

Predstavitelia priznávajú, že oddelenie Claude od existujúcej infraštruktúry by bolo prevádzkovo zložité. Ministerstvo však má alternatívy. Konkurenti ako xAI so svojím modelom Grok, OpenAI s ChatGPT a Google s Gemini sú v podobných zmluvných vzťahoch s ministerstvom obrany a môžu byť pripravení rozšíriť svoje úlohy, ak rokovania zlyhajú.

Spor poukazuje na širšie otázky riadenia AI vo vojenskom prostredí, najmä keď sa federálne právo naďalej vyvíja v súvislosti s novými technológiami. V stávke je, či si súkromní vývojári AI môžu zachovať nezávislé etické politiky, keď sa ich systémy stanú súčasťou operácií národnej bezpečnosti.

Reakcie naprieč platformami sociálnych médií boli pozoruhodne otvorené. „Sledovanie bez príkazu je späť,“ napísal jeden používateľ X v reakcii na príspevok Griffinovej na X. „Toto by mala byť oveľa väčšia správa, než akou je. Je tu vážna šanca porušenia ústavy,“ odpovedal ďalší na jej text. Iní, s dávkou čierneho humoru, žartovali, že príchod Skynetu nemusí byť ďaleko. „Skynet je tu… časová os 2029 je AKTÍVNA,“ poznamenal dotyčný.

Obe strany označili diskusiu z 24. februára za vecnú. To, či Anthropic upraví svoje ochranné opatrenia pred termínom, môže určiť budúcnosť jednej z najpokročilejších integrácií AI v Pentagóne.

FAQ 🤖

• Čo sa preberalo na stretnutí v Pentagóne 24. februára?
  Stretnutie sa zameralo na obmedzenia Anthropic týkajúce sa AI Claude a na to, či limitujú zákonné vojenské aplikácie.
• Prečo Pentagón vyvíja tlak na Anthropic?
  Predstavitelia obrany tvrdia, že ochranné opatrenia spoločnosti zasahujú do autorizovaných použití pre národnú bezpečnosť.
• Čo by sa mohlo stať, ak Anthropic nevyhovie?
  Pentagón by mohol využiť zákon Defense Production Act alebo označiť spoločnosť za riziko dodávateľského reťazca.
• Existujú alternatívy ku Claude?
  Áno, modely od xAI, OpenAI a Google sú v zmluvách s ministerstvom obrany a v prípade potreby by sa mohli rozšíriť.