OpenAI čelí vlne kritiky po uzavretí dohody s Pentagonom o umelej inteligencii, pričom v USA prudko stúpa počet odinštalácií aplikácie ChatGPT

Hnutie #QuitGPT rastie, keďže OpenAI reviduje zmluvu s ministerstvom obrany USA o AI uprostred negatívnej reakcie spotrebiteľov

Kontroverzia vypukla okolo 28. februára, keď OpenAI potvrdilo dohodu s americkým ministerstvom obrany o nasadení pokročilých systémov umelej inteligencie, vrátane technológie ChatGPT, v utajovaných sieťach.

Spoločnosť prezentovala dohodu ako zákonnú a prísne kontrolovanú, kritici v nej však videli niečo úplne iné: platformu umelej inteligencie určenú spotrebiteľom, ktorá sa hlbšie zapája do vojenských operácií v čase, keď je verejná kontrola umelej inteligencie už aj tak veľmi intenzívna.

OpenAI uviedlo, že dohoda obsahuje jasné bezpečnostné opatrenia, vrátane zákazu hromadného domáceho sledovania osôb v USA, kontroly autonómnych zbraní a automatizovaných systémov rozhodovania s vysokými rizikami.
Spoločnosť tiež zdôraznila technické obmedzenia, vrátane nasadenia výlučne v cloude a zachovania kontroly nad bezpečnostnými systémami, spolu s dodržiavaním právnych rámcov USA, ako je štvrtý dodatok k ústave a pravidlá ministerstva obrany upravujúce ľudský dohľad nad použitím smrtiacej sily.

Napriek tomu to nevyzeralo práve nenápadne.

V priebehu niekoľkých hodín od oznámenia sa na sociálnych médiách začala šíriť grassrootsová bojkotová kampaň pod hashtagom #QuitGPT, ktorá vyzvala používateľov, aby zrušili predplatné, odstránili aplikáciu a prešli ku konkurencii. Merateľná negatívna reakcia sa prejavila v značných zmenách v správaní aplikácie.

Podľa údajov z analýzy aplikácií sa miera odinštalovania aplikácie ChatGPT v USA 28. februára medziročne zvýšila o 295 %, zatiaľ čo počet stiahnutí klesol o 13 % nasledujúci deň a o ďalších 5 % potom.
Nálada používateľov sa ešte výraznejšie prejavila v recenziách aplikácie, kde počet jednohviezdičkových hodnotení vzrástol za jediný deň o 775 % a naďalej stúpal, zatiaľ čo počet päťhviezdičkových recenzií klesol približne o polovicu. Konkurenti túto situáciu využili vo svoj prospech.

Aplikácia Claude od spoločnosti Anthropic zaznamenala v tom istom období nárast stiahnutí o 37 % až 51 % a na krátko predbehla ChatGPT v rebríčku App Store v USA, keďže používatelia hľadali alternatívy. Organizátori bojkotu uvádzali milióny akcií spojených s kampaňou, vrátane zrušení a sľubov, hoci presné čísla sa líšia v závislosti od zdroja a toho, ako je definovaná účasť.

Spoločnosť OpenAI rýchlo konala, aby zmiernila následky. Generálny riaditeľ Sam Altman uznal nedostatky v komunikácii dohody, pričom jej zavedenie označil za „oportunistické a nedbalé“, a v priebehu niekoľkých dní spoločnosť revidovala znenie dohody.
Aktualizované podmienky výslovne zakazovali úmyselné domáce sledovanie pomocou systémov umelej inteligencie a pridali prísnejšie požiadavky na akúkoľvek účasť spravodajských agentúr, vrátane samostatných zmluvných vrstiev. Spoločnosť tiež oznámila plány na koordináciu so ďalšími vývojármi umelej inteligencie v oblasti spoločných bezpečnostných rámcov, pričom tieto zmeny prezentovala skôr ako sprísnenie než ako ústup.
Hoci sa po týchto úpravách vlna nevôle čiastočne utíšila, táto epizóda zanechala stopu a poukázala na to, ako rýchlo sa môže nálada spotrebiteľov zmeniť, keď umelá inteligencia vstúpi na citlivé územie. Zároveň OpenAI za kulisami podnikalo menej viditeľné, ale strategicky významné kroky.

Začiatkom marca spoločnosť reorganizovala svoje výpočtové a infraštruktúrne operácie a rozdelila zodpovednosti do troch zameraných skupín, ktoré pokrývajú návrh dátových centier, komerčné partnerstvá a správu zariadení v teréne. Táto reštrukturalizácia odzrkadľuje širší posun v tom, ako OpenAI plánuje škálovať svoj výpočtový výkon.

Namiesto agresívnej výstavby a vlastníctva obrovských dátových centier spojených s jej ambicióznou iniciatívou „Stargate“ sa spoločnosť viac spolieha na prenájom a partnerstvá s poskytovateľmi cloudových služieb. Microsoft Azure zostáva ústredným prvkom tejto stratégie, pričom OpenAI tiež rozšírila vzťahy s Oracle a Amazon Web Services v rámci viacročných dohôd o kapacitách.

Predchádzajúce plány týkajúce sa rozsiahlych projektov spoločne vlastnenej infraštruktúry boli obmedzené alebo prepracované, keďže finančné a logistické realita budovania superpočítačovej kapacity umelej inteligencie vo veľkom meradle sa stáva ťažšie ignorovateľnou. Namiesto toho sa OpenAI zameriava na kontrolu kľúčových prvkov, ako je vlastný hardvér a čipy, pričom fyzickú infraštruktúru outsourcuje etablovaným hyperscalerom.

Tieto dva vývojové trendy – jeden verejný a kontroverzný, druhý operačný a pragmatický – nie sú priamo prepojené, ale spolu naznačujú, že spoločnosť sa rýchlo pohybuje na viacerých frontoch, niekedy rýchlejšie, než stíhajú jej komunikácie.

Pre OpenAI je teraz výzvou menej to, či dokáže vybudovať výkonné systémy, a viac to, ako zvládne dôsledky ich nasadenia na miestach, kde ide o viac než len teoretické riziká.

FAQ 🔎

• Prečo používatelia v USA bojkotovali ChatGPT?
  Používatelia reagovali na dohodu OpenAI o nasadení umelej inteligencie v utajovaných vojenských sieťach, čo vyvolalo etické obavy týkajúce sa sledovania a využitia v oblasti obrany.
• Kleslo využívanie ChatGPT po tejto kontroverzii?
  Áno, počet odinštalovaní prudko vzrástol a počet stiahnutí dočasne klesol, pričom negatívne recenzie aplikácie prudko vzrástli.
• Aké zmeny OpenAI vykonalo vo svojej dohode s Pentagonom?
  Spoločnosť pridala výslovné zákazy domáceho sledovania a prísnejšie pravidlá pre zapojenie spravodajských agentúr.
• Prečo OpenAI prechádza na partnerov v oblasti cloudovej infraštruktúry?
  Rastúce náklady a výzvy spojené s rozširovaním nútia spoločnosť prenajímať si výpočtový výkon namiesto budovania obrovských dátových centier.