Anthropic og Pentagon tørner sammen om Claudes militære anvendelser og brug til masseovervågning

Anthropic støder sammen med Pentagon om Claudes ‘uetiske’ anvendelser

Anthropic, et af de største virksomheder inden for kunstig intelligens (AI), er angiveligt kommet i modvind hos Department of War på grund af brugen af dets AI-modeller til aktiviteter, som virksomheden anser for uetiske.

Axios rapporterede, at forsvarsminister Pete Hegseth overvejer at udpege Anthropic som en risiko i forsyningskæden, hvilket betyder, at alle kontrakter og forbindelser til virksomheden skulle afbrydes. Derudover ville alle virksomheder, der samarbejder med Pentagonet, også være nødt til at opgive Anthropics tjenester.

Konflikten bryder ud, fordi virksomheden har nægtet at tillade brugen af Claude, dens varemærkebeskyttede model, i masseovervågningskampagner og operationer, der involverer fuldt autonomt militært udstyr. På den anden side hævder Pentagonet, at det bør kunne udnytte Claudes kapaciteter til “alle lovlige formål”, uden at virksomheden skal have noget at skulle have sagt i disse processer.

Hvis Anthropic endeligt udpeges som en risiko i forsyningskæden, vil det betyde, at modellen skal fjernes fra Pentagonets informationssystemer, da kun Claude har adgang til organisationens klassificerede systemer.

Dette gjorde det muligt for Claude at tage en aktiv del i Operation Absolute Resolve, som førte til udtrækningen af Venezuelas Nicolás Maduro i januar. Selvom den rolle, modellen påtog sig under operationen, ikke er blevet fuldt afsløret, repræsenterer det en eskalering i brugen af AI til militære kampagner.

Dødvandet kan skabe en præcedens for, hvordan AI-virksomheder kan håndtere regeringer i den vestlige verden, og danne grundlag for de niveauer af kontrol, som disse virksomheder kan bevare over deres modeller, når de bruges til militære formål.

En talsmand for Anthropic udtalte, at virksomheden havde “produktive samtaler i god tro med DoW om, hvordan man kan fortsætte det arbejde og få styr på disse nye og komplekse problemstillinger.”

Jack Dorseys Block slutter sig til kræfterne med OpenAI og Anthropic

Virksomhederne vil samarbejde om open source-projekter, der er snævert fokuseret på fremme af agentisk AI. read more.

Læs nu

Jack Dorseys Block slutter sig til kræfterne med OpenAI og Anthropic

Virksomhederne vil samarbejde om open source-projekter, der er snævert fokuseret på fremme af agentisk AI. read more.

Læs nu

Jack Dorseys Block slutter sig til kræfterne med OpenAI og Anthropic

Læs nu

Virksomhederne vil samarbejde om open source-projekter, der er snævert fokuseret på fremme af agentisk AI. read more.

FAQ

• Hvilke problemer står Anthropic over for med Department of War?
  Anthropic er under granskning fra Department of War for at nægte at tillade, at dets AI-model, Claude, bruges til aktiviteter, som virksomheden anser for uetiske, såsom masseovervågning og autonome militære operationer.
• Hvilke potentielle konsekvenser kan Anthropic stå over for, hvis det klassificeres som en risiko i forsyningskæden?
  Hvis det udpeges som en risiko i forsyningskæden, vil alle kontrakter med Pentagonet blive afbrudt, hvilket nødvendiggør, at Claude trækkes tilbage fra Pentagonets informationssystemer.
• Hvordan har Anthropic reageret på Pentagonets krav vedrørende sin AI-model?
  Virksomheden fastholder, at den er i gang med “produktive samtaler” med Department of War med henblik på at navigere i komplekse etiske spørgsmål omkring brugen af dens AI-teknologi.
• Hvilken nylig militær operation involverede Claude, og hvad var dens betydning?
  Claude deltog i Operation Absolute Resolve, som muliggjorde udtrækningen af Venezuelas Nicolás Maduro, og markerede en betydelig eskalering i militærets brug af AI-teknologier.