AI expert: Protokoly pravdy by sa mohli stať SSL informačného veku

Dezinformácie a ich nebezpečenstvá

Rok 2024 poslúžil ako ostré varovanie pred nebezpečenstvami, ktoré môže umelá inteligencia (AI) predstavovať, ak sa nezavedú žiadne bezpečnostné opatrenia. Po celom svete, od rozsiahleho demokratického cvičenia v Indii po napätú politickú klímu na Taiwane, zanechali kampane dezinformácií generovaných AI svoje stopy.

Na Taiwane deepfake spravodajcovia rozmazali hranice medzi realitou a výmyslom, zatiaľ čo v Spojených štátoch falošný zvuk prezidenta Bidena údajne odrádzanie demokratov v New Hampshire od hlasovania zdôraznil, ako ľahko možno AI zneužiť na politickú manipuláciu. Obrovský objem a sofistikovanosť tohto syntetického média zanechali mnohých ľudí tápajúcich v mori neistoty, snažiac sa rozlíšiť fakty od fikcia.

Avšak niektorí odborníci, ako Yannick Myson, zakladateľ a generálny riaditeľ Swarm Network, tvrdia, že problém siaha ďalej ako len k volebným manipuláciám. Cituje AI-indukovanú psychózu, znepokojujúci fenomén, keď ľudia vyvíjajú grandiózne ilúzie, ktoré niektoré štúdie spájajú s predĺženými interakciami s AI chatbotmi. Cena tejto AI-indukovanej psychózy bola obrovská; niektorí stratili prácu, zatiaľ čo iní skončili na psychiatrickej liečbe.

„Rovnako ako deepfaky zneužívajú naše vizuálne spracovacie skratky, AI psychóza zneužíva naše psychologické zraniteľnosti, pričom chatboti slúžia ako dokonalé echo komory, ktoré potvrdzujú a zosilňujú iluzórne myslenie,“ povedal Myson.

Centralizované vs. Decentralizované riešenia

Myson verí, že súčasné reaktívne opatrenia, ako sú náhodné fakt-checking iniciatívy, sú jednoducho nedostatočné na boj s týmto eskalujúcim problémom. „To, čo priemysel začína chápať, je, že náhodné fakt-checking nedokáže držať krok s rýchlosťou syntetických médií alebo psychologickou manipuláciou AI systémov,“ tvrdí.

Jeho riešenie, stelesnené v Swarm Network, je proaktívne: zavedenie overovania v masovom merítku. To zahŕňa stanovenie pôvodu už pri samotnom vytváraní obsahu, čo zabezpečí, že pôvod digitálnych informácií môže byť vystopovaný a overený. Myson tiež obhajuje decentralizované overovacie systémy, v ktorých sú informácie čítané a overované, keď sa šíria digitálnym poľom.

Táto vízia robustnej „infraštruktúry pravdy“ rezonuje s rastúcimi obavami v priemysle AI. Ako technológia rýchlo napreduje, etické a sociálne dôsledky jej zneužitia sa stávajú čoraz zrejmejšími. Erozia dôvery v digitálne informácie, podporovaná sofistikovanými klammi generovanými AI, predstavuje významnú hrozbu pre demokratické procesy, sociálnu súdržnosť a dokonca aj individuálne duševné zdravie.

Aby sa proti tomu bojovalo, niektorí obhajujú regulačnú odpoveď, ktorá podľa minulých príkladov ukázala, že je dôležitým nástrojom na ochranu užívateľov pred potenciálnymi rizikami spojenými s novými technológiami. Kritici však varujú, že to môže mať nezamýšľaný účinok potlačenia inovácií, čo Myson zdá sa, že súhlasí.

„Regulácia môže pomôcť, ale iba ak sa vyhne pasci centralizácie pravdy. Videli sme, ako vlády využívajú ‘zákony o dezinformáciách’ na umlčovanie diskusie,“ povedal generálny riaditeľ Swarm Network.

Na podporu tejto tvrdenia Myson poukázal na to, ako európski byrokrati údajne používajú Digitálny zákon o službách EÚ (DSA), ktorý prikazuje odstraňovanie široko definovaného „škodlivého“ obsahu, ako „nástroj na obmedzenie otvorenej diskusie po celom svete.“ Myson tvrdí, že zákon o AI EÚ vytvára podobné problémy.

Namiesto zavádzania opatrení ako DSA alebo zákona o AI Myson navrhuje mandát transparentnosti, jasného označovania syntetických médií a otvorených štandardov pôvodu ako C2PA. „Pravidlá by mali presadzovať dôkaz, nie názor,“ argumentoval.

Budúcnosť overovania

Podľa generálneho riaditeľa hlavné sociálne médiá ako Meta a TikTok si toto uvedomujú a odvtedy sa presunuli k viac decentralizovaným prístupom k fakt-checkingu.

„Tento posun predstavuje základné uznanie, že centralizovaný fakt-checking vytvára úzke miesta a jediné body zlyhania. Budúcnosť overovania obsahu nie je o dávaní moci vládam alebo korporáciám rozhodovať o tom, čo je pravdivé,“ uviedol generálny riaditeľ.

Myson verí, že tento posun robí riešenia ako to, ktoré ponúka Swarm Network, kritickými. Namiesto spoliehania sa na malú skupinu centralizovaných fakt-checkerov Swarm využíva „AI agentov pracujúcich spolu s ľudskými recenzentmi na vytváranie audítovateľných, na reťazci založených záznamov overených tvrdení.“

V skutočnosti, AI agenti sa rýchlo posúvajú z teoretických konceptov na praktické aplikácie, čo zásadne mení, ako rôzne sektory fungujú. Hlavnou výhodou týchto agentov je ich schopnosť automatizovať a optimalizovať. Dokážu spracovať veľké množstvo dát za krátku dobu, identifikovať vzory, ktoré by ľudia mohli prehliadnuť, a fungovať 24/7 bez únavy.

Napriek tomu, široká adopcia AI agentov prináša zložité výzvy, ktoré je potrebné starostlivo riešiť. Aby sa niektoré z týchto výziev prekonali, Myson uviedol, že prístup jeho spoločnosti „je premeniť agentov na transparentných spolupracovníkov, nie nekontrolované veštcov.“ Dodal:

„V Swarm agenti rozkladajú informácie na malé, testovateľné tvrdenia, navzájom sa kontrolujú, a kde je potrebná nuansa, zasahujú ľudia. Každý krok je zaznamenaný a zakotvený na reťazi, takže ich myslenie je prehľadateľné. Skrátka: žiadne čierne skrinky, len overiteľné stopy.“

Zatiaľ Myson verí, že v priebehu nasledujúcich piatich rokov sa fakt-checking vyvinie z manuálneho procesu na zabudovanú funkciu digitálneho života a AI agenti budú hodnotení podľa ich transparentnosti, nielen rýchlosti. Konečná vízia je spraviť pravdu základnou vrstvou internetu.

„Rovnako ako sa SSL stal štandardom pre webovú prevádzku, tak sa protokol pravdy stane štandardom pre informácie. A takto zabránime AI, aby prehlušila svet hlukom,“ uzavrel Myson.