OpenAI se sooča z negativnimi odzivi po sklenitvi pogodbe s Pentagonom na področju umetne inteligence, saj se v ZDA povečuje število odstranjenih namestitev programa ChatGPT

Gibanje #QuitGPT se širi, medtem ko OpenAI zaradi negativnega odziva potrošnikov revidira pogodbo z ameriškim ministrstvom za obrambo

Kontroverza se je vnela okoli 28. februarja, ko je OpenAI potrdil sporazum z ameriškim Ministrstvom za obrambo o uvedbi naprednih sistemov AI, vključno s tehnologijo ChatGPT, v tajna omrežja.

Podjetje je sporazum predstavilo kot zakonit in strogo nadzorovan, kritiki pa so v njem videli nekaj povsem drugega: platformo AI, namenjeno potrošnikom, ki se še globlje vključuje v vojaške operacije v trenutku, ko je javna pozornost do umetne inteligence že tako ali tako vroča.

OpenAI je navedlo, da sporazum vključuje izrecne zaščitne ukrepe, vključno s prepovedjo množičnega domačega nadzora nad ameriškimi državljani, avtonomnim nadzorom nad orožjem in avtomatiziranimi sistemi odločanja z visokim tveganjem.
Poudarilo je tudi tehnične omejitve, vključno z uvedbo izključno v oblaku in ohranjenim nadzorom nad varnostnimi sistemi, poleg tega pa tudi skladnost z ameriškimi pravnimi okviri, kot sta Četrta sprememba ustave in pravila Ministrstva za obrambo, ki urejajo človeški nadzor nad smrtonosno silo.

Vseeno pa to ni bilo ravno neopazno.

Že nekaj ur po objavi se je po družbenih medijih začela širiti ljudska bojkotna kampanja pod geslom #QuitGPT, ki je uporabnike pozivala, naj prekinejo naročnine, izbrišejo aplikacijo in preidejo k konkurentom. Ta izmerljiv odziv se je odrazil v precejšnjih spremembah v uporabi aplikacije.

Glede na podatke analitike aplikacij je stopnja odstranitev aplikacije ChatGPT v ZDA 28. februarja v primerjavi s prejšnjim dnem poskočila za 295 %, medtem ko so prenosi naslednji dan upadli za 13 % in še za 5 % dan pozneje.
Mnenje uporabnikov se je še bolj izrazito spremenilo v ocenah aplikacije, kjer so se ocene z eno zvezdico v enem samem dnevu povečale za 775 % in še naprej naraščale, medtem ko so se ocene s petimi zvezdicami zmanjšale za približno polovico. Konkurenti so izkoristili trenutek.

Aplikacija Claude podjetja Anthropic je v istem obdobju zabeležila povečanje prenosov med 37 % in 51 % ter za kratek čas prehitela ChatGPT v lestvici ameriškega App Store-a, saj so uporabniki iskali alternative. Organizatorji bojkota so trdili, da je bilo v okviru kampanje izvedenih milijone ukrepov, vključno z odpovedmi in zavezami, čeprav se natančne številke razlikujejo glede na vir in opredelitev sodelovanja.

OpenAI je hitro ukrepal, da bi omejil posledice. Izvršni direktor Sam Altman je priznal pomanjkljivosti v komunikaciji o sporazumu, pri čemer je uvedbo označil za »oportunistično in površno«, in v nekaj dneh je podjetje revidiralo besedilo sporazuma.
V posodobljenih pogojih je bilo izrecno prepovedano namerno domače nadzorovanje z uporabo sistemov umetne inteligence, dodane pa so bile strožje zahteve za kakršno koli vpletenost obveščevalnih agencij, vključno z ločenimi pogodbenimi ravnmi. Podjetje je tudi napovedalo načrte za usklajevanje z drugimi razvijalci umetne inteligence glede skupnih varnostnih okvirov, pri čemer je spremembe predstavilo kot poostritev in ne kot umik.
Čeprav se je negativni odziv po spremembah nekoliko umiril, je ta epizoda pustila sled, saj je poudarila, kako hitro se lahko spremeni mnenje potrošnikov, ko umetna inteligenca vstopi na občutljivo področje. Hkrati je OpenAI za kulisami izvajalo manj vidne, a strateško pomembne poteze.

V začetku marca je podjetje reorganiziralo svoje računalniške in infrastrukturne operacije ter odgovornosti razdelilo na tri usmerjene skupine, ki pokrivajo načrtovanje podatkovnih centrov, komercialna partnerstva in upravljanje objektov na terenu. Prestrukturiranje odraža širši premik v načinu, kako OpenAI načrtuje širitev svoje računalniške moči.

Namesto da bi agresivno gradilo in lastništvo ogromnih podatkovnih centrov, povezanih z ambiciozno pobudo »Stargate«, se podjetje bolj opira na najem in partnerstva s ponudniki storitev v oblaku. Microsoftov Azure ostaja osrednji del te strategije, medtem ko je OpenAI razširilo tudi odnose z Oracle in Amazon Web Services v okviru večletnih sporazumov o zmogljivosti.

Prejšnji načrti, ki so vključevali obsežne projekte skupne lastniške infrastrukture, so bili zmanjšani ali predelani, saj je finančne in logistične realnosti gradnje zmogljivosti superračunalnikov za umetno inteligenco v velikem obsegu vse težje prezreti. Namesto tega se OpenAI osredotoča na nadzor ključnih elementov, kot so prilagojena strojna oprema in čipi, medtem ko fizično infrastrukturo izvaja zunanji izvajalci.

Ti dve razvojni smeri – ena javna in sporna, druga operativna in pragmatična – nista neposredno povezani, vendar skupaj nakazujejo podjetje, ki se hitro premika na več frontah, včasih hitreje, kot lahko sledijo njegova sporočila.

Za OpenAI je izziv zdaj manj v tem, ali lahko zgradi zmogljive sisteme, in bolj v tem, kako bo obvladalo posledice njihove uvedbe na področjih, kjer je v igri vse prej kot le teorija.

Pogosta vprašanja 🔎

• Zakaj so uporabniki v ZDA bojkotirali ChatGPT?
  Uporabniki so se odzvali na sporazum OpenAI o uvedbi umetne inteligence v zaupnih vojaških omrežjih, kar je sprožilo etične pomisleke glede nadzora in uporabe v obrambne namene.
• Ali se je uporaba ChatGPT po tej polemiki zmanjšala?
  Da, število odstranitev aplikacije se je močno povečalo, število prenosov pa začasno upadlo, medtem ko se je število negativnih ocen aplikacije močno povečalo.
• Kakšne spremembe je OpenAI uvedel v sporazumu s Pentagonom?
  Podjetje je dodalo izrecne prepovedi domačega nadzora in strožja pravila za sodelovanje obveščevalnih agencij.
• Zakaj OpenAI prehaja na partnerje za oblačno infrastrukturo?
  Naraščajoči stroški in izzivi v zvezi z obsegom podjetje silijo, da najame računalniško moč namesto da gradi ogromna podatkovna središča.