Strategie společnosti Big AI zaměřená na ovládnutí regulace se mohla spektakulárně obrátit proti ní

Nejvlivnější světové společnosti v oblasti AI aktivně prosí federální vládu, aby je regulovala. Jejich strategie se však mohla spektakulárně obrátit proti nim. Zatímco lídři odvětví se snaží vybudovat regulační příkop, který by zablokoval přístup menším konkurentům, zákonodárci reagují návrhy, které zahrnují povinný 50% podíl státu v předních laboratořích zabývajících se umělou inteligencí a až 20 let vězení pro vývojáře, kteří vytvářejí neschválené systémy.

Lídři boomu v oblasti umělé inteligence strávili poslední dva roky budováním systémů, které přesahují lidské chápání. Poté však udělali něco ještě podivnějšího. Odjeli do Washingtonu a požádali vládu, aby kolem jejich odvětví vybudovala ochranný val. Jednalo se o klasický korporátní manévr. Tím, že varovaly zákonodárce před existenčními nebezpečími umělé inteligence, doufaly největší průkopnické laboratoře, že podnítí zavedení nákladných bezpečnostních předpisů, které by si menší konkurenční startupy nikdy nemohly dovolit.

Zajímavé je, že Washington jim skutečně naslouchal. Místo toho, aby však politikové technologickým gigantům poskytli pohodlný regulační monopol, nachytali je nepřipravené. Nyní čelí toto odvětví návrhu federálního zákazu superinteligence, hrozbě trestů odnětí svobody ve federálních věznicích a legislativnímu tlaku na zabavení poloviny kapitálu nejcennějších soukromých technologických společností na světě.

Prodej strachu za účelem vybudování ochranného valu

Odvětví umělé inteligence je v současné době rozděleno mezi obrovská, finančně silná průkopnická laboratoře a menší vývojáře open-source. Velcí hráči, zejména společnost Anthropic, se silně opírají o katastrofická varování. Narativ je jednoduchý: umělá inteligence je tak nebezpečná, že by ji mělo být povoleno vyvíjet pouze hrstce vysoce zabezpečených a finančně silných korporací. Zcela nedávno bývalý zaměstnanec společnosti Anthropic uvedl, že z firmy odešel, protože postupovali příliš rychle a mohli by lidstvu skutečně ublížit.

Kritici, jako je bývalý Trumpův poradce pro kryptoměny a umělou inteligenci David Sacks, to prokoukli. Obvinil tuto významnou laboratoř zabývající se umělou inteligencí z provádění strategie „regulatory capture“. „Anthropic provádí sofistikovanou strategii regulativní kapitulace založenou na šíření strachu. Je hlavním viníkem regulačního šílenství na státní úrovni, které poškozuje ekosystém startupů,“ napsal Sacks na X v říjnu 2025.

Tento víkend se Sacks na X opět vyjádřil k tomuto tématu a napsal:

„Tak do toho, vytyčujte hranice. Jste to vy, kdo je stanovuje. Nejjednodušší způsob, jak nevytvořit superinteligenci, je dohodnout se, že ji nevytvoříte. Požadovat za to váš preferovaný regulační rámec bude vypadat jako vydírání veřejnosti a politického systému. Tak to prostě udělejte. Pokud to uděláte, získáte si přízeň pro další diskusi. Pokud ne, budeme vědět, že to byl jen další pokus o regulativní zajetí – nebo psychologická operace v období voleb.“

Pokud vláda nařídí drahé externí hodnotitele, obrovské výpočetní limity a přísné licenční režimy, startupy jsou vyřízené. Stávající hráči na trhu tak mohou zmrazit trh přesně tam, kde je dnes, a pod záminkou veřejné bezpečnosti si zajistit svou dominanci. Je to brilantní strategie, za předpokladu, že vláda bude hrát podle jejich not a sepíše přesně taková pravidla, jaká si korporace přejí.

Hrozba 20 let vězení

Pak se ale situace zvrtla. Senátor Bernie Sanders a poslanec Greg Casar předložili 3. září návrh zákona o zákazu umělé superinteligence (Ban Artificial Superintelligence Act). Návrh zákona by trvale zakázal vývoj jakéhokoli systému, který by se vyrovnal nebo překonal široké spektrum lidského poznání, nebo který by odolal vypnutí. Požaduje úplné pozastavení pokročilého vývoje, dokud nová agentura pro umělou inteligenci na úrovni vlády nevytvoří pravidla.

Trest za porušení navrhovaného zákona je to, kde se příběh stává opravdu divokým. Legislativa hrozí zrušením společnosti a až 20 lety vězení pro vývojáře, kteří vytvoří neschválenou umělou inteligenci. Dvacet let. To znamená, že psaní neautorizovaného kódu je z právního hlediska posuzováno stejně přísně jako porušení předpisů týkajících se jaderných zbraní. Přední výzkumné laboratoře se obrátily na Washington s žádostí o ochranný val, a Washington na to reagoval hrozbou, že jejich výzkumníky uvězní ve federální věznici.

Generální ředitel, který souhlasil

Zvratem v příběhu je, že někteří lídři odvětví tuto kontrolu prakticky podporují. Generální ředitel společnosti Anthropic Dario Amodei nedávno zveřejnil obsáhlý článek, v němž požaduje zapojení nezávislých hodnotitelů a vládou podporovanou koordinaci mezi laboratořemi. Tvrdí, že odvětví musí proaktivně udávat tempo vývoje.

Poté Amodei vystoupil v pořadu CBS „Sunday Morning“ a nahlas vyslovil to, o čem se jinak mlčí. „Odvětví příliš dlouho lhalo lidem o tom, že tato technologie s sebou nese rizika,“ řekl televizi. Na otázku ohledně soukromé kontroly nad umělou inteligencí přiznal: „Vždy mi připadalo velmi podivné, že tuto technologii vyvíjí soukromá společnost… Souhlasím s nimi. Necítím se v tom dobře.“

Ačkoli Amodei výslovně nepodpořil 50% konfiskační podíl, potvrdil přesně ten předpoklad, který stojí za tímto legislativním útokem. Pokročilá umělá inteligence je prostě příliš důležitá na to, aby byla ponechána v rukou soukromých korporací.

Geopolitický střet

To má zásadní význam, protože boj o regulaci umělé inteligence již není pouhou vnitrostátní korporátní hádkou. Je to bitva o to, kdo bude ovládat nejvýznamnější technologický skok století.

Průkopnické laboratoře chtějí rozšířit svůj demokratický náskok tím, že odepřou pokročilé čipy autoritářským státům, a zároveň pečlivě koordinují svůj vlastní pokrok. Definování Overtonova okna kolem extrémní bezpečnosti však politikům umožňuje ospravedlnit extrémní konfiskaci. Odvětví si myslelo, že navrhuje ochranný regulační rámec. Místo toho však nechtěně vytvořilo politické prostředí, ve kterém se znárodnění této technologie jeví jako naprosto rozumná politická možnost.

Co bude dál

Celá tato snaha o bezpečnost by nakonec mohla narazit na zcela odlišnou realitu. Zatímco laboratoře prosí o omezení tempa vývoje a Kongres připravuje návrhy na zákaz superinteligence, americký prezident Donald Trump nedávno celé hnutí za zpomalení vývoje odmítl.

Ve svém projevu k novinářům 13. září na svém golfovém hřišti v Irsku označil existenciální varování za „věci, které se nestanou“. Úplně odmítl myšlenku moratoria či zabudovaných hodnotitelů. Místo toho celé odvětví vykreslil jako geopolitický závod a jasně prohlásil: „Kdo vyhraje v oblasti AI, ten vyhraje.“ Odvětví tak čelí třem diametrálně odlišným budoucnostem. Tato technologie by mohla být uzamčena stávajícími hráči, převzata veřejným investičním fondem v hodnotě 7 bilionů dolarů, nebo vtlačena do zcela neregulovaného geopolitického sprintu. Prach se ještě neusadil, ale jedna věc je jasná. Společnosti, které žádaly o zásah vlády, by mohly brzy litovat, že dostaly přesně to, co si přály.