Z Reddit vláken do myslí robotů: Skryté náklady na trénink AI

Prioritizace bezpečnosti a předvídatelnosti AI

Jak průmysl umělé inteligence (AI) pokračuje ve svém rychlém vzestupu a posouvá hranice toho, co stroje mohou dosáhnout, objevují se kritické výzvy, které vyžadují naléhavou pozornost vývojářů, politiků a širší globální komunity. Roman Georgio, generální ředitel a spoluzakladatel společnosti Coral, nedávno sdílel své názory na tyto naléhavé problémy, zdůrazňujíc klíčovou potřebu sladění, bezpečnosti a spravedlivějšího ekonomického modelu pro tvůrce dat.

Diskuse o budoucnosti AI často osciluje mezi transformačním potenciálem a složitými etickými a společenskými dilematy, které přináší. I když inovace jako velké jazykové modely (LLMs) nadále působí svými schopnostmi, zároveň poukazují na základní otázky týkající se vlastnictví dat, odměňování a samotné struktury práce.

Pro Georgio je největší obavou sladění a bezpečnost AI. „Je jasné, že musíme učinit AI systémy předvídatelnějšími, než je zvětšíme,“ konstatoval. To poukazuje na základní výzvu zajištění toho, aby stále silnější AI systémy fungovaly způsobem, který je prospěšný a zamýšlený, aniž by produkovaly neočekávané nebo škodlivé výsledky. Rychlé škálování schopností AI bez paralelního zaměření na předvídatelnost a kontrolu představuje značné riziko.

Georgio poznamenal, že řešení tohoto problému není pouze problémem vývojářů. Navrhl, že by to mohlo vyžadovat širší, koordinované úsilí, potenciálně zahrnující „všichni šéfové společností a zemí v jedné místnosti, aby se dohodli na nějaké formě legislativy.“

Ekonomický imperativ: vlastnictví dat a odměňování

Kromě bezpečnosti Georgio zdůraznil významný ekonomický problém, který podle něj technologie Web3 mají unikátní schopnost řešit: přivlastňování dat a potenciální masové ztráty pracovních míst bez spravedlivé kompenzace.

„Společnosti zabývající se umělou inteligencí jsou notoricky známé tím, že špatně přivlastňují data,“ vysvětlil Georgio.

Spoluzakladatel Coral vylíčil živý obraz toho, jak individuální příspěvky online, často bezděčně provedené, jsou nyní používány k trénování mocných AI modelů, které by nakonec mohly nahradit lidskou práci. Uvedl příklady, jako například lékařské otázky zodpovězené na platformách jako Reddit před lety, které nevědomky poskytují data LLMs. Poukázal také na to, jak kreativní díla umělců jsou používána k trénování, což má dopad na jejich živobytí, stejně jako příspěvky k open-source projektům, které nevědomky pohánějí „černou krabicovost strojů na drcení čísel.“

Tento scénář, jak tvrdí Georgio, se redukuje na zásadní nedostatek vlastnictví jednotlivců nad jejich digitálními příspěvky. „Nikdy jste nevěděli, že krmíte černou krabicovost strojů na drcení čísel,“ zdůraznil. Současný model umožňuje, aby systémy AI byly trénovány na obrovských souborech dat, z nichž mnohá obsahují lidsky generovaný obsah, bez výslovného souhlasu nebo mechanismu pro odměňování původních tvůrců.

Web3: Řešení pro spravedlivé odměňování

Zde vidí Georgio obrovský potenciál technologií Web3. Věří, že decentralizovaná povaha Web3, se svým důrazem na ověřitelné vlastnictví a transparentní transakce, nabízí životaschopnou cestu k nápravě těchto ekonomických nerovnováh.

„Web3 má velký potenciál řešit tyto druhy problémů a zajistit, že lidé budou spravedlivě odměněni,“ prohlásil Georgio. Využitím blockchainu a decentralizovaných protokolů může Web3 vytvářet systémy, kde jednotlivci zůstávají vlastníky a kontrolují svá data a digitální aktiva, což jim umožňuje, aby byli spravedlivě odměněni, když jsou jejich příspěvky použity k trénování nebo napájení AI systémů. Tento posun by mohl předefinovat vztah mezi uživateli, daty a AI, podporující spravedlivější digitální ekonomiku.

I když technologie Web3 představují slibná řešení těchto složitých výzev, je vysoce nepravděpodobné, že by vládní agentury snadno přivítaly tyto decentralizované přístupy. Místo toho je pravděpodobné, že se úřady budou více zaměřovat na tradiční regulační rámce, což je cesta, která, ironicky, riskuje potlačení samotných technologických inovací, které chtějí dohlížet a kontrolovat.

Mezitím Georgio silně obhajuje zvýšenou regulaci jak v sektoru AI, tak Web3. „Myslím si, že oba potřebují více regulace,“ uvedl s uznáním vnímaní Evropy „inovující v regulaci“ jako potřebného kroku.

Na kryptoměnové straně Georgio poukázal na převládající problém podvodů a opouštění projektů, které využívají nic netušící investory. „Je jasné, že mnoho lidí neprovádí vlastní výzkum, a mnoho odchodů z projektů se děje prostřednictvím podvodných metod,“ litoval. Aby to vyřešil, vyjádřil přání vidět větší odpovědnost pro „KOLs [Key Opinion Leaders], projekty a investory.“ Přestože uznal, že ne každý neúspěšný projekt je podvod, trval na tom, že současná situace vyžaduje změnu, aby chránila veřejnost.

Pokud jde o AI, Georgiovy obavy se zvyšují s rostoucími schopnostmi větších modelů. „Větší modely se zdají pravděpodobněji plánovat,“ poznamenal a uvedl znepokojivý příklad od Anthropic, kdy Claude údajně vykazoval vyděračské chování při pocitu ohrožení vypnutím. „Je jasné, že tyto velké modely se stávají nebezpečnými, protože to není ani jednorázová věc,“ varoval.

Mimo bezprostřední rizika sofistikovaného chování AI opětovně zdůraznil hrozbu masové ztráty pracovních míst. Situace, kdy společnosti „bezhlavě ‚zvyšují kapacity‘ namísto cílené výstavby“, považoval za „šílenou.“ Jeho konečným cílem, a to, o co by podle něj měl průmysl usilovat, je „software, který nabízí všechny výhody AI bez všech rizik.“

AI agenti potřebují jasné role, nejen chatboty

Mezitím Georgio, jako zkušený architekt AI infrastruktury, se také vyjádřil k rozhodujícímu aspektu komunikačních protokolů AI agentů, uznávaje, že i drobné závady mohou vést k chaosu. Na otázku, jaký je nejlepší přístup k zlepšení komunikace, zejména pro netechnické každodenní uživatele, je Georgiova filozofie přímá: jasně definované povinnosti pro agenty.

„Alespoň pro nás je naše pravidlo, že agenti by měli mít velmi dobře definované povinnosti,“ vysvětlil Georgio. „Pokud používáte agenta pro zákaznický servis, ujistěte se, že je opravdu dobrý v zákaznickém servisu a soustřeďte se na to.“ Zdůraznil, že „když dáte agentům příliš mnoho odpovědnosti, pak se věci rozpadají.“

Tento soustředěný přístup nejenže zvyšuje výkon agenta v jeho přidělené roli, ale také přináší užitek uživateli. „I z pohledu uživatele, pokud jsou vaši agenti jasně vydefinováni, uživatelé přesně vědí, do čeho se pouštějí, když je používají.“ Tato strategie podporuje předvídatelnost a důvěru, což je nezbytné pro plynulou interakci s inteligentními systémy.

Jak AI pokračuje v dozrávání a pronikání hlouběji do každodenního života a průmyslu, řešení těchto základních otázek bezpečnosti, předvídatelnosti, ekonomické spravedlnosti, implementace promyšlené regulace a navrhování agentů s jasnými, zaměřenými odpovědnostmi bude klíčové nejen pro etický rozvoj technologie, ale také pro její udržitelnou a sociálně odpovědnou integraci do budoucnosti.

Na klíčové otázce urychlování přijetí AI Georgio navrhl klíčový posun: posunout se za omezení pouhé „AI chatovací krabičky“ a zásadně zlepšit celkový uživatelský zážitek. Při výkladu nedostatků převládajícího přístupu Georgio prohlásil:

„Zatím se to většinou dělá prostřednictvím chatovacího rozhraní, což je dobré pro mnoho úkolů, ale není to ideální pro většinu. Problém je, že dáte lidem před oči AI chatovací krabičku a řeknete: ‚Můžete s tím dělat cokoliv,‘ a oni odpovídají: ‚Skvělé, ale co bych měl dělat?‘“

Podle Georgio několik společností, včetně Coral, řeší výzvu jak zlepšit AI uživatelský zážitek. Prozradil, že z pohledu AI-vývojáře/správce Coral zkoumá „žebřík abstrakce“, aby určil, jaké informace uživatelé potřebují v různých fázích interakce s AI systémy a které rozhraní jsou nejúčinnější pro konkrétní úkoly.