Anthropic ja Pentagon ottavat yhteen Clauden sotilas- ja massavalvontakäytöstä

Anthropic ottaa yhteen Pentagonin kanssa Clauden ”epäeettisestä” käytöstä

Anthropic, yksi suurimmista tekoäly-yhtiöistä, on tiettävästi sodanministeriön tulilinjalla sen vuoksi, miten sen tekoälymalleja käytetään yhtiön epäeettisinä pitämiin toimintoihin.

Axios raportoi, että puolustusministeri Pete Hegseth harkitsee Anthropicin nimeämistä toimitusketjuriskiksi, mikä tarkoittaisi, että kaikki sopimukset ja siteet yhtiöön olisi katkaistava. Lisäksi kaikkien Pentagonin kanssa toimivien yritysten olisi myös luovuttava Anthropicin palveluista.

Yhteenotto kärjistyy, kun yhtiö on kieltäytynyt sallimasta tavaramerkkimallinsa Clauden käyttöä joukkovalvontakampanjoissa ja operaatioissa, joissa hyödynnetään täysin autonomista sotilaskalustoa. Pentagon puolestaan katsoo, että sen pitäisi voida valjastaa Clauden kyvykkyydet ”kaikkiin laillisiin tarkoituksiin” ilman, että yhtiöllä olisi sananvaltaa näissä prosesseissa.

Jos Anthropic lopulta nimetään toimitusketjuriskiksi, se tarkoittaisi, että malli olisi vedettävä pois Pentagonin tietojärjestelmistä, koska vain Claudella on pääsy organisaation salattuihin järjestelmiin.

Tämä mahdollisti sen, että Claude otti aktiivisesti osaa operaatioon Operation Absolute Resolve, joka johti Venezuelan Nicolás Maduron noutoon tammikuussa. Vaikka mallin operaatiossa omaksumaa roolia ei ole täysin julkistettu, se edustaa eskalaatiota tekoälyn käytössä sotilaskampanjoissa.

Pattitilanne saattaa luoda ennakkotapauksen siihen, miten tekoäly-yhtiöt voivat toimia länsimaiden hallitusten kanssa, ja määrittää perustan sille, millä tasolla nämä yhtiöt voivat säilyttää kontrollin malleistaan, kun niitä käytetään sotilaallisiin tarkoituksiin.

Anthropic-edustajan mukaan yhtiö kävi ”tuottavia keskusteluja hyvässä uskossa sodanministeriön kanssa siitä, miten tätä työtä voidaan jatkaa ja miten nämä uudet ja monimutkaiset kysymykset saadaan ratkaistua oikein.”

UKK

• Mitä ongelmia Anthropicin ja sodanministeriön välillä on?
  Anthropic on sodanministeriön tarkastelun kohteena, koska se kieltäytyy sallimasta tekoälymallinsa Clauden käyttöä yhtiön epäeettisinä pitämissä toiminnoissa, kuten joukkovalvonnassa ja autonomisissa sotilasoperaatioissa.
• Mitä mahdollisia seurauksia Anthropicia voisi kohdata, jos se luokitellaan toimitusketjuriskiksi?
  Jos se nimetään toimitusketjuriskiksi, kaikki sopimukset Pentagonin kanssa katkaistaisiin, mikä edellyttäisi Clauden poistamista Pentagonin tietojärjestelmistä.
• Miten Anthropic on vastannut Pentagonin vaatimuksiin tekoälymallinsa suhteen?
  Yhtiö kertoo käyvänsä ”tuottavia keskusteluja” sodanministeriön kanssa ja pyrkivänsä navigoimaan tekoälyteknologiansa käyttöön liittyvissä monimutkaisissa eettisissä kysymyksissä.
• Mikä hiljattainen sotilasoperaatio sisälsi Clauden käytön, ja mikä oli sen merkitys?
  Claude osallistui operaatioon Operation Absolute Resolve, joka helpotti Venezuelan Nicolás Maduron noutoa, mikä merkitsi merkittävää eskalaatiota armeijan tekoälyteknologioiden käytössä.