Anthropic en het Pentagon botsen over Claude’s militaire en massale surveillance-toepassingen

Anthropic botst met het Pentagon over ‘niet-ethisch’ gebruik van Claude

Anthropic, een van de grootste bedrijven op het gebied van kunstmatige intelligentie (AI), ligt naar verluidt onder vuur van het Department of War vanwege het gebruik van zijn AI-modellen voor activiteiten die het bedrijf als onethisch beschouwt.

Axios meldde dat minister van Defensie Pete Hegseth overweegt Anthropic aan te wijzen als een risico in de toeleveringsketen, wat betekent dat alle contracten en banden met het bedrijf zouden moeten worden afgebouwd. Bovendien zouden alle bedrijven die met het Pentagon zaken doen ook de diensten van Anthropic moeten laten vallen.

De botsing laait op nu het bedrijf heeft geweigerd het gebruik van Claude, zijn kenmerkende model, toe te staan in massale surveillancencampagnes en operaties met volledig autonome militaire uitrusting. Aan de andere kant stelt het Pentagon dat het Claude’s capaciteiten moet kunnen benutten voor “alle wettige doeleinden”, zonder dat het bedrijf hierover iets te zeggen heeft in deze processen.

Als Anthropic uiteindelijk als een risico in de toeleveringsketen wordt aangewezen, zou dat betekenen dat het model uit de informatiesystemen van het Pentagon moet worden teruggetrokken, aangezien alleen Claude toegang heeft tot de geclassificeerde systemen van de organisatie.

Dit stelde Claude in staat een actieve rol te spelen in Operatie Absolute Resolve, die in januari leidde tot de extractie van Venezuela’s Nicolás Maduro. Ook al is de rol die het model tijdens de operatie vervulde niet volledig bekendgemaakt, het vertegenwoordigt een escalatie in het gebruik van AI voor militaire campagnes.

De patstelling zou een precedent kunnen scheppen voor hoe AI-bedrijven met overheden in de westerse wereld kunnen omgaan, en de basis leggen voor de mate van controle die deze bedrijven over hun modellen kunnen behouden wanneer die voor militaire doeleinden worden gebruikt.

Een woordvoerder van Anthropic verklaarde dat het bedrijf “productieve gesprekken, te goeder trouw, met DoW” voerde over hoe dit werk voort te zetten en deze nieuwe en complexe kwesties goed aan te pakken.

Jack Dorsey's Block bundelt krachten met OpenAI en Anthropic

De bedrijven zullen samenwerken aan open-source projecten die nauw gericht zijn op de vooruitgang van agentische AI. read more.

Lees nu

Jack Dorsey's Block bundelt krachten met OpenAI en Anthropic

De bedrijven zullen samenwerken aan open-source projecten die nauw gericht zijn op de vooruitgang van agentische AI. read more.

Lees nu

Jack Dorsey's Block bundelt krachten met OpenAI en Anthropic

Lees nu

De bedrijven zullen samenwerken aan open-source projecten die nauw gericht zijn op de vooruitgang van agentische AI. read more.

FAQ

• Met welke problemen wordt Anthropic geconfronteerd met het Department of War?
  Anthropic staat onder toezicht van het Department of War omdat het weigert zijn AI-model Claude te laten gebruiken voor activiteiten die het als onethisch beschouwt, zoals massale surveillance en autonome militaire operaties.
• Welke mogelijke gevolgen kan Anthropic ondervinden als het als een risico in de toeleveringsketen wordt geclassificeerd?
  Als het als een risico in de toeleveringsketen wordt aangewezen, zouden alle contracten met het Pentagon worden stopgezet, waardoor Claude uit de informatiesystemen van het Pentagon moet worden teruggetrokken.
• Hoe heeft Anthropic gereageerd op de eisen van het Pentagon met betrekking tot zijn AI-model?
  Het bedrijf stelt dat het betrokken is bij “productieve gesprekken” met het Department of War, met als doel complexe ethische kwesties rond het gebruik van zijn AI-technologie te navigeren.
• Welke recente militaire operatie betrof Claude, en wat was het belang ervan?
  Claude nam deel aan Operatie Absolute Resolve, die de extractie van Venezuela’s Nicolás Maduro mogelijk maakte, wat een belangrijke escalatie markeert in het gebruik van AI-technologieën door het leger.