AI Szakértő: Az Igazság Protokollok Lehetnek az Információs Kor SSL-je

Dezinformáció és annak veszélyei

2024 éve komoly figyelmeztetést jelentett azokra a veszélyekre, amelyeket a mesterséges intelligencia (MI) jelenthet, ha nincsenek biztonsági intézkedések érvényben. A világ különböző pontjain, Indiától kezdve a hatalmas demokratikus gyakorlaton át egészen Tajvan feszült politikai klímájáig, az MI által generált dezinformációs kampányok nyomot hagytak.

Tajvanon deepfake hírolvasók mosták el a valóság és a hamisítás közötti határokat, míg az Egyesült Államokban egy hamis hanganyag, amelyben állítólag Biden elnök arra bátorította New Hampshire Demokrata Pártját, hogy ne szavazzon, kiemelte, milyen könnyen felhasználható az MI politikai manipuláció céljára. A szintetikus média puszta mennyisége és kifinomultsága sokakat hagyott sodródva a bizonytalanság tengerében, küzdve a tények és a fikció megkülönböztetésével.

Azonban egyes szakértők, mint Yannick Myson, a Swarm Network alapítója és vezérigazgatója, azt állítják, hogy a probléma mélyebb, mint a választási manipuláció. Utal az MI által kiváltott pszichózisra, egy zavaró jelenségre, amelyben az emberek nagyzási téveszméket fejlesztenek ki, amit néhány tanulmány társít a MI csevegőrobotokkal való hosszas interakciókkal. Az MI által kiváltott pszichózis költsége óriási volt; egyesek elvesztették állásaikat, míg mások pszichiátriai kezelésbe kerültek.

„Ahogyan a deepfake-ek kihasználják a vizuális feldolgozási rövidítéseinket, úgy az MI pszichózis kihasználja a pszichológiai sebezhetőségeinket, a csevegőrobotok pedig tökéletes visszhangkamráként szolgálnak, amelyek alátámasztják és felerősítik a téveszméket” – mondta Myson.

Központosított vs. Decentralizált megoldások

Myson úgy véli, hogy a jelenlegi reakciós intézkedések, mint a foltozott tényellenőrző kezdeményezések, egyszerűen nem elegendőek ahhoz, hogy megküzdjenek ezzel a növekvő problémával. „Azt látjuk az iparágban, hogy a foltozott tényellenőrzés nem tud lépést tartani a szintetikus média sebességével vagy az MI rendszerek pszichológiai manipulációjával” – állítja.

Az általa kínált megoldás, amelyet a Swarm Network testesít meg, proaktív: a nagyszabású hitelesítés beágyazása. Ez magában foglalja a származás megállapítását már a tartalom létrehozásának pontján, biztosítva, hogy a digitális információk eredete nyomon követhető és hitelesíthető legyen. Ezenkívül Myson decentralizált hitelesítési rendszerek mellett érvel, ahol az információkat keresztellenőrzik és érvényesítik, miközben azok terjednek a digitális szférában.

Ez a robusztus „igazságinfrastruktúra” vízió összegzik az MI iparág növekvő aggodalmát. Ahogy a technológia gyors ütemben fejlődik, a visszaélések etikai és társadalmi következményei egyre nyilvánvalóbbá válnak. A digitális információ iránti bizalom eróziója, amelyet a kifinomult MI által generált hamisítványok táplálnak, jelentős fenyegetést jelent a demokratikus folyamatokra, a társadalmi kohézióra, sőt az egyéni mentális jólétre is.

Ennek leküzdése érdekében néhányan szabályozási választ javasoltak, utalva a múltbeli esetekre, amikor ez fontos eszköznek bizonyult a felhasználók védelme érdekében az új technológiák kockázataival szemben. Ugyanakkor a kritikusok figyelmeztetnek, hogy ez az innováció visszaszorításának nemkívánatos hatását eredményezheti, amivel látszólag Myson is egyetért.

„A szabályozás segíthet, de csak akkor, ha elkerüli az igazság központosításának csapdáját. Már láttuk, hogy a kormányok miként használják fegyverként a ‘félrevezetési törvényeket’, hogy elhallgattassák a vitákat” – nyilatkozta a Swarm Network vezérigazgatója.

Ennek alátámasztására Myson rámutat arra, hogyan használják állítólag az EU bürokraták az Európai Unió (EU) digitális szolgáltatásokról szóló törvényét (DSA), amely előírja a széleskörűen meghatározott „káros” tartalom eltávolítását, „eszközként, hogy korlátozzák a nyílt párbeszédet világszerte.” Myson szerint az EU MI törvénye is hasonló problémákat okoz.

Ahelyett, hogy a DSA vagy az MI törvényhez hasonló darabokat hoznának létre, Myson inkább az átláthatóság, a szintetikus média világos címkézésének és a nyílt származási szabványok, például a C2PA előírását támogatja. „A szabályok legyenek bizonyíték alapúak, ne vélemény alapúak” – mondta.

A hitelesítés jövője

A vezérigazgató szerint a nagy közösségi média platformok, mint a Meta és a TikTok ismerik ezt, és azóta áttértek a decentralizáltabb megközelítések felé a tényellenőrzés terén.

„Ez az elmozdulás alapvetően annak felismerését jelenti, hogy a központosított tényellenőrzés szűk keresztmetszeteket és egyetlen meghibásodási pontokat hoz létre. A tartalom hitelesítésének jövője nem arról szól, hogy kormányoknak vagy vállalatoknak adjuk a hatalmat, hogy eldöntsék, mi igaz” – mondta a vezérigazgató.

Myson úgy véli, hogy ez az elmozdulás a Swarm Network által kínált megoldásokat teszi kulcsfontosságúvá. Ahelyett, hogy néhány központosított tényellenőrzőre támaszkodnának, a Swarm „MI ügynököket használ, akik emberi ellenőrökkel együttműködnek, hogy létrehozzanak egy auditálható, láncon rögzített nyilvántartást az ellenőrzött állításokról.”

Valóban, az MI ügynökök gyorsan mozognak az elméleti koncepciókból a gyakorlati alkalmazásokba, alapvetően megváltoztatva, hogy a különböző szektorok hogyan működnek. Az ügynökök elsődleges előnye a képességük az automatizálásra és optimalizálásra. Nagy mennyiségű adatot képesek rövid idő alatt feldolgozni, azonosítani olyan mintákat, amelyeket az emberek esetleg figyelmen kívül hagynak, és fáradtság nélkül 24/7 működni.

Mégis, az MI ügynökök széleskörű elfogadása összetett kihívásokat is jelent, amelyeket gondosan kezelni kell. E kihívások leküzdése érdekében Myson elmondta, hogy a cége megközelítése az, hogy „az ügynököket átlátható együttműködővé, nem pedig ellenőrizetlen orákulummá alakítja.” Hozzátette:

„A Swarm-ban az ügynökök információkat bontanak le apró, tesztelhető állításokká, keresztellenőrzik egymást, és ahol szükség van a szofisztikáltságra, az emberek lépnek közbe. Minden lépés naplózott és láncon rögzített, így a gondolkodásuk újrajátszható. Röviden: nincsenek fekete dobozok, csak ellenőrizhető nyomvonalak.”

Időközben Myson úgy véli, hogy az elkövetkező öt évben a tényellenőrzés manuális folyamatról a digitális élet beépített jellemzőjévé fog fejlődni, és az MI ügynököket az átláthatóságuk, nem csak a sebességük alapján fogják értékelni. A végső vízió az, hogy az igazság az internet alaprétegévé váljon.

„Ugyanúgy, ahogy az SSL vált az internetes forgalom alapértelmezetté, az igazság protokollja válik az információ alapértelmezetté. És így tartjuk meg, hogy az MI ne fullassza zajba a világot” – zárta Myson.