Kinasuhan ng Anthropic ni Dario Amodei ang Pamahalaan ng U.S., Sinasabing Gumanti ang Pentagon Dahil sa mga Guardrail sa Kaligtasan ng AI

Hinarap ng Anthropic ang Department of Defense sa Makasaysayang Kaso sa AI

Ayon sa ilang ulat, nagsampa ang Anthropic ng dalawang demanda noong Marso 9 sa pederal na hukuman na kumukuwestiyon sa mga aksyong ginawa ng U.S. Department of Defense at ng administrasyong Trump, iginiit na labag sa batas na gumanti ang gobyerno laban sa kompanya matapos itong tumangging alisin ang mga safeguard sa Claude artificial intelligence system nito. Tinutukan ng mga demanda ang isang pagtatalaga na karaniwang inilalapat sa mga dayuhang kalaban na pinaghihinalaang sangkot sa paniniktik o sabotahe, hindi sa mga domestikong kompanya ng teknolohiya.

Nag-ugat ang alitan sa mga negosasyon sa kontrata sa pagitan ng Anthropic at ng Pentagon tungkol sa kung paano magagamit ang Claude AI model ng kompanya ng mga ahensiyang pangdepensa ng U.S.. Dati nang sinuportahan ng Anthropic ang mga inisyatiba sa pambansang seguridad at naging unang frontier AI company na nag-deploy ng mga modelo sa mga classified network ng gobyerno ng U.S. noong Hunyo 2024, tumutulong sa mga analyst at military planner sa pagsusuri ng intelligence, mga simulation, operational planning, at gawaing cybersecurity.

Uminit ang tensyon nang hingin ng Department of Defense ang walang limitasyong access sa Claude para sa “lahat ng legal na layunin” bilang bahagi ng pag-renew ng kontrata. Sumang-ayon ang Anthropic sa karamihan ng mga kondisyon ngunit iginiit ang dalawang restriksyon: pagbabawal sa paggamit ng AI nito para sa malawakang domestikong pagmamanman sa mga Amerikano at pagpigil sa pag-deploy nito sa ganap na autonomous na nakamamatay na weapons systems.

Ipinunto ng mga executive ng kompanya na kinakailangan ang mga guardrail na iyon dahil nananatiling masyadong hindi maaasahan ang kasalukuyang frontier AI models para sa autonomous weapons at dahil ang malakihang mga programang pagmamanman ay maaaring sumalungat sa mga proteksiyong konstitusyonal. Sinabi ng Anthropic na hindi kailanman nakasagabal ang mga restriksyon sa alinmang misyong militar sa nauna nitong trabaho kasama ang gobyerno.

Bumagsak ang negosasyon matapos ang pulong noong Peb. 24 sa pagitan ng Anthropic CEO na si Dario Amodei at ng Defense Secretary na si Pete Hegseth. Makalipas ang ilang araw, noong Peb. 27, nag-post si Pangulong Donald Trump sa Truth Social, inuutusan ang mga pederal na ahensiya na “agad itigil” ang paggamit ng teknolohiya ng Anthropic, at inilalarawan ang patuloy na pag-asa sa kompanya bilang isang “mapaminsalang pagkakamali.”

Hindi nagtagal, kumilos si Hegseth upang uriin ang Anthropic bilang isang panganib sa supply chain sa ilalim ng pederal na procurement authority na nakasaad sa 10 U.S.C. § 3252. Ang pagtatalaga, na kinumpirma sa isang liham na ipinadala sa kompanya bandang Marso 4, ay naglilimita sa ilang government contractor sa paggamit ng teknolohiyang itinuturing na bulnerable sa sabotahe o dayuhang impluwensya.

Ipinapahayag ng Anthropic na labis na pinalalawak ng hakbang na ito ang batas lampas sa nilalayong layunin nito. Sa mga paghahain sa hukuman, iginiit ng kompanya na ang pagtatalaga ay para sa mga banta sa seguridad na may kaugnayang dayuhan, hindi para sa mga hindi pagkakasundo sa patakaran sa mga domestikong supplier. Sinasabi sa mga demanda na nabigo ang gobyerno na gamitin ang “pinakamababang restriktibong paraan” na hinihingi ng batas at sa halip ay nagpataw ng tinatawag ng kompanya na isang di-opisyal na blacklist.

Ibinabangon din ng mga legal na paghahain ang mga alalahaning konstitusyonal. Ipinapahayag ng Anthropic na nilalabag ng pagtatalaga ang First Amendment sa pamamagitan ng pagpaparusa sa kompanya dahil sa hayagang pagsusulong nito ng mga limitasyon sa paggamit ng AI gaya ng autonomous weapons at domestikong pagmamanman. Ayon sa reklamo, ang paglalabel sa kompanya bilang panganib sa pambansang seguridad ay sumisira sa reputasyon nito at maaaring magbanta sa daan-daang milyong dolyar na mga kontrata.

Humihiling ang Anthropic sa mga hukuman na harangin ang pagpapatupad ng pagtatalaga, utusan ang mga pederal na ahensiya na bawiin ang mga direktibang nagpapahinto sa pakikipagnegosyo sa kompanya, at pigilan ang mga katulad na aksyon sa hinaharap. Sinabi ng kompanya na ang layunin nito ay hindi pilitin ang gobyerno na bilhin ang teknolohiya nito kundi pigilan ang pagganti dahil sa mga pagkakaiba sa patakaran.

“Ang paghiling ng judicial review ay hindi nagbabago sa aming matagal nang pangako na gamitin ang AI upang protektahan ang aming pambansang seguridad,” sinabi ng isang tagapagsalita ng Anthropic sa isang pahayag. “Ngunit ito ay isang kinakailangang hakbang upang protektahan ang aming negosyo, ang aming mga customer, at ang aming mga partner.”

Hindi pa pampublikong nagkokomento ang mga opisyal ng Pentagon tungkol sa litigasyon, na binabanggit ang patakaran kaugnay ng mga aktibong kaso sa korte. May ilang defense leader na dati nang nagsabing dapat mapanatili ng mga ahensiyang militar ang ganap na operational authority sa mga teknolohiya ng contractor sa panahon ng mga emerhensiya at hindi maaaring hayaang ang mga vendor ang magdikta kung paano ginagamit ang mga sistema.

Dumarating ang alitan habang tumitindi ang karera upang makuha ang mga kontrata sa military AI. Ang mga karibal na kompanya, kabilang ang OpenAI, ay umabot sa mga kasunduan sa Pentagon sa halos kaparehong panahon nang gumuho ang negosasyon ng Anthropic. Samantala, ipinahiwatig ng malalaking technology partner gaya ng Google at Microsoft na balak nilang ipagpatuloy ang pakikipagtulungan sa Anthropic sa mga komersyal na serbisyong hindi kaugnay ng depensa.

Sinasabi ng mga industry analyst na ang magiging resulta ng kaso ay maaaring magtakda ng precedent kung paano pinipresyur ng pederal na pamahalaan ang mga kompanya ng AI na baguhin ang mga patakaran sa kaligtasan kapag nasasangkot ang mga interes sa pambansang seguridad. Sa ngayon, nananatiling available ang mga consumer product at komersyal na AI service ng Anthropic, habang nagsisimula ang legal na labanan tungkol sa pagtatalaga ng Pentagon na umusad sa mga hukuman.

FAQ 🧭

• Bakit idinemanda ng Anthropic ang gobyerno ng U.S.?
  Nagsampa ang Anthropic ng mga demanda na nagsasabing labag sa batas na nilabel ng Pentagon ang kompanya bilang panganib sa supply chain ng pambansang seguridad matapos itong tumangging alisin ang mga restriksyon sa kaligtasan ng AI.
• Ano ang nagpasimula sa alitan sa pagitan ng Anthropic at ng Pentagon?
  Nagsimula ang tunggalian sa panahon ng negosasyon sa kontrata nang hingin ng Department of Defense ang walang restriksiyong paggamit sa Claude AI system ng Anthropic.
• Ano ang ibig sabihin ng pagtatalagang “panganib sa supply chain”?
  Maaaring limitahan ng label ang mga government contractor sa paggamit ng teknolohiya ng isang kompanya kung naniniwala ang mga opisyal na nagdudulot ito ng mga panganib sa seguridad o procurement.
• Magpapatuloy pa ba ang mga AI service ng Anthropic habang dinidinig ang kaso?
  Oo, nananatiling available ang mga komersyal na AI product at consumer service ng Anthropic habang nagpapatuloy ang legal na kaso.