OpenAI čelí kritice po uzavření smlouvy s Pentagonem o umělé inteligenci, zatímco v USA prudce stoupá počet odinstalací aplikace ChatGPT

Hnutí #QuitGPT sílí, zatímco OpenAI reviduje smlouvu s ministerstvem obrany USA o AI kvůli negativní reakci spotřebitelů

Kontroverze propukla kolem 28. února, kdy OpenAI potvrdilo dohodu s americkým ministerstvem obrany o nasazení pokročilých systémů AI, včetně technologie ChatGPT, v utajených sítích.

Společnost prezentovala dohodu jako zákonnou a přísně kontrolovanou, ale kritici v ní viděli něco úplně jiného: platformu AI určenou pro spotřebitele, která se stále více zapojuje do vojenských operací v době, kdy je veřejná kontrola umělé inteligence již tak velmi intenzivní.

OpenAI uvedlo, že dohoda obsahuje jasná ochranná opatření, včetně zákazu hromadného domácího sledování amerických občanů, autonomního ovládání zbraní a automatizovaných systémů rozhodování s vysokými riziky.
Dále zdůraznilo technická omezení, včetně nasazení výhradně v cloudu a zachování kontroly nad bezpečnostními systémy, spolu s dodržováním amerických právních rámců, jako je Čtvrtý dodatek a pravidla Ministerstva obrany upravující lidský dohled nad smrtící silou.

Přesto však optika nebyla zrovna subtilní.

Během několika hodin po oznámení se na sociálních médiích začala šířit grassrootsová bojkotová kampaň pod heslem #QuitGPT, která vyzývala uživatele, aby zrušili předplatné, smazali aplikaci a přešli ke konkurenci. Tato měřitelná negativní reakce se promítla do značných změn v chování aplikace.

Podle údajů z analýzy aplikací vzrostla míra odinstalací ChatGPT v USA 28. února meziročně o 295 %, zatímco počet stažení klesl o 13 % následující den a o dalších 5 % poté.

Nálada uživatelů se ještě výrazněji projevila v recenzích aplikace, kde hodnocení jednou hvězdičkou vzrostlo o 775 % za jediný den a dále stoupalo, zatímco recenze s pěti hvězdičkami klesly zhruba o polovinu. Konkurenti z této situace těžili.

Aplikace Claude od společnosti Anthropic zaznamenala ve stejném období nárůst stažení o 37 % až 51 % a na chvíli předstihla ChatGPT v žebříčku amerického App Store, protože uživatelé hledali alternativy. Organizátoři bojkotu tvrdili, že kampaň vyvolala miliony reakcí, včetně zrušení a slibů, ačkoli přesná čísla se liší v závislosti na zdroji a definici účasti.

Společnost OpenAI rychle zareagovala, aby zmírnila dopady. Generální ředitel Sam Altman uznal nedostatky v tom, jak byla dohoda komunikována, a označil její zavedení za „oportunistické a nedbalé“; během několika dní společnost revidovala znění dohody.
Aktualizované podmínky výslovně zakazovaly úmyslné domácí sledování pomocí systémů AI a přidaly přísnější požadavky na jakoukoli účast zpravodajských agentur, včetně samostatných smluvních úrovní. Společnost také oznámila plány na koordinaci se dalšími vývojáři AI ohledně sdílených bezpečnostních rámců, přičemž tyto změny prezentovala spíše jako zpřísnění než jako ústup.
Ačkoli se po revizích negativní reakce poněkud uklidnily, tato epizoda zanechala stopu a zdůraznila, jak rychle se může nálada spotřebitelů změnit, když AI vstoupí na citlivé území. Současně OpenAI podnikala méně viditelné, ale strategicky významné kroky v zákulisí.

Na začátku března společnost reorganizovala své výpočetní a infrastrukturní operace a rozdělila odpovědnosti do tří specializovaných skupin zabývajících se návrhem datových center, obchodními partnerstvími a správou zařízení v terénu. Tato restrukturalizace odráží širší posun v tom, jak OpenAI plánuje škálovat svůj výpočetní výkon.

Místo agresivní výstavby a vlastnictví obrovských datových center spojených s ambiciózní iniciativou „Stargate“ se společnost více opírá o leasing a partnerství s poskytovateli cloudových služeb. Klíčovou roli v této strategii nadále hraje Microsoft Azure, přičemž OpenAI také rozšířila vztahy s Oracle a Amazon Web Services v rámci víceletých dohod o kapacitách.

Dřívější plány zahrnující rozsáhlé projekty společné infrastruktury byly omezeny nebo přepracovány, protože finanční a logistické realita budování superpočítačové kapacity pro AI ve velkém měřítku se stává stále těžší ignorovat. Místo toho se OpenAI soustředí na kontrolu klíčových prvků, jako je vlastní hardware a čipy, zatímco fyzickou infrastrukturu outsourcuje zavedeným hyperscalerům.

Tyto dva vývojové trendy – jeden veřejný a kontroverzní, druhý operativní a pragmatický – nejsou přímo propojeny, ale společně naznačují, že se společnost rychle pohybuje na několika frontách, někdy rychleji, než stačí její komunikace držet krok.

Pro OpenAI nyní není výzvou tolik to, zda dokáže vybudovat výkonné systémy, ale spíše to, jak zvládne důsledky jejich nasazení v oblastech, kde jde o mnohem víc než jen o teorii.

Často kladené otázky 🔎

• Proč uživatelé v USA bojkotovali ChatGPT?
  Uživatelé reagovali na dohodu OpenAI o nasazení AI v utajených vojenských sítích, což vyvolalo etické obavy ohledně sledování a využití v oblasti obrany.
• Pokleslo používání ChatGPT po této kontroverzi?
  Ano, počet odinstalací prudce vzrostl a počet stažení dočasně poklesl, zatímco počet negativních recenzí aplikace prudce vzrostl.
• Jaké změny provedla společnost OpenAI ve své dohodě s Pentagonem?
  Společnost přidala výslovný zákaz domácího sledování a přísnější pravidla pro zapojení zpravodajských agentur.
• Proč OpenAI přechází k partnerům v oblasti cloudové infrastruktury?
  Rostoucí náklady a výzvy spojené s rozšiřováním tlačí společnost k pronájmu výpočetního výkonu namísto budování obrovských datových center.