Експерт з ШІ: Протоколи правди можуть стати SSL інформаційної ери

Дезінформація та її небезпеки

Рік 2024 став серйозним попередженням про небезпеки, які може представляти штучний інтелект (ШІ), якщо не вжити жодних заходів безпеки. По всьому світу, від масивного демократичного процесу в Індії до напруженої політичної ситуації на Тайвані, кампанії з дезінформації, створені ШІ, залишили свій слід.

На Тайвані ведучі новин, створені за допомогою глибинних фейків, розмивали межі між реальністю та вигадкою, а в Сполучених Штатах фейкове аудіо президента Байдена, нібито спонукаючого демократів Нью-Гемпшира не голосувати, підкреслило легкість, з якою ШІ можна використовувати як зброю для політичних маніпуляцій. Величезний обсяг та складність цього синтетичного медіа залишили багатьох без ориєнтирів у морі невизначеності, намагаючись розрізнити факти від вигадок.

Однак, деякі експерти, такі як Яннік Майсон, засновник і генеральний директор Swarm Network, стверджують, що проблема глибша, ніж маніпуляція виборами. Він згадує індукований ШІ психоз, тривожне явище, коли люди розвивають грандіозні маячення, які деякі дослідження пов’язують з тривалими взаємодіями з чат-ботами ШІ. Вартість цього індукованого ШІ психозу була величезною; деякі втратили роботу, а інші стали пацієнтами психіатричного лікування.

“Якщо глибокі фейки експлуатують наші візуальні обробки, психоз ШІ експлуатує наші психологічні вразливості, при цьому чат-боти слугують ідеальними резонаторами, що підтверджують та підсилюють маячне мислення”, сказав Майсон.

Централізовані проти децентралізованих рішень

Майсон вважає, що сьогоднішні реактивні заходи, такі як фрагментарні ініціативи з перевірки фактів, просто недостатні для боротьби з цією загострюваною проблемою. “Індустрія усвідомлює, що фрагментарна перевірка фактів не встигає за швидкістю синтетичних медіа або психологічною маніпуляцією систем ШІ”, він стверджує.

Його рішення, втілене в Swarm Network, є проактивним: впроваджуючи перевірку в масштабі. Це включає встановлення походження ще на етапі створення контенту, забезпечуючи можливість відстеження та аутентифікації цифрової інформації. Крім того, Майсон виступає за децентралізовані системи перевірки, де інформація перевіряється та затверджується в процесі її розповсюдження в цифровій сфері.

Це бачення надійної “інфраструктури правди” резонує з зростаючою занепокоєністю в індустрії ШІ. У той час як технологія продовжує розвиватися швидкими темпами, етичні та соціальні наслідки її зловживання стають все більш очевидними. Ерозія довіри до цифрової інформації, підживлена складними хибностями, створеними ШІ, представляє значну загрозу демократичним процесам, соціальній згуртованості та навіть індивідуальному психічному благополуччю.

Щоб боротися з цим, деякі виступають за регуляторну реакцію, наводячи приклади з минулого, коли це було важливим інструментом для захисту користувачів від потенційних ризиків, пов’язаних з новими технологіями. Однак критики застерігають, що це може мати ненавмисні наслідки для зупинки інновацій, що Майсон, здається, підтримує.

“Регулювання може допомогти, але лише якщо воно уникне пастки централізації правди. Ми бачили, як уряди використовують закони про “дезінформацію” для замовчування дебатів”, заявив генеральний директор Swarm Network.

Щоб підтвердити це твердження, Майсон вказав на те, як європейські чиновники нібито використовують Закон про цифрові послуги (DSA) Європейського Союзу (ЄС), який зобов’язує видаляти широковизначений “шкідливий” зміст, як “інструмент для обмеження відкритих дебатів по всьому світу”. Майсон стверджує, що Закон про ШІ ЄС також створює подібні проблеми.

Замість прийняття таких актів, як DSA або AI Act, Майсон виступає за обов’язкове впровадження прозорості, чітке маркування синтетичного медіа та відкриті стандарти походження, такі як C2PA. “Правила мають забезпечувати докази, а не думки”, він стверджував.

Майбутнє верифікації

За словами генерального директора, основні соціальні мережі, такі як Meta і TikTok, це усвідомлюють і відтоді перейшли до більш децентралізованих підходів до перевірки фактів.

“Цей зрушення представляє фундаментальне визнання того, що централізована перевірка фактів створює вузькі місця та єдині точки відмови. Майбутнє верифікації контенту не полягає в наданні урядам або корпораціям влади вирішувати, що є правдою”, заявив генеральний директор.

Майсон вважає, що це зрушення робить рішення, запропоноване Swarm Network, критично важливим. Замість того, щоб покладатися на жменьку централізованих перевірювачів фактів, Swarm використовує “агенти ШІ, які працюють разом з людськими рецензентами, щоб створити аудирований, на ланцюгу запис перевірених тверджень”.

Дійсно, агенти ШІ швидко переходять від теоретичних концепцій до практичних застосувань, фундаментально змінюючи те, як працюють різні сектори. Основна перевага цих агентів полягає в їх здатності автоматизувати та оптимізувати процеси. Вони можуть обробляти великі обсяги даних за короткий час, виявляти шаблони, які можуть пропустити люди, і працювати 24/7 без втоми.

Однак, повсюдне прийняття агентів ШІ також вводить складні виклики, які слід ретельно вирішити. Щоб подолати деякі з цих викликів, Майсон сказав, що підхід його компанії “полягатиме у перетворенні агентів на прозорих співпрацівників, а не на безперевіркові оракули”. Він додав:

“У Swarm агенти розбивають інформацію на невеликі, тестовані твердження, вони перевіряють один одного, а де потрібна нюанси, втручаються люди. Кожен крок записується і закріплюється на ланцюгу, тому їхнє міркування можна відтворити. Скорочено: ніяких чорних ящиків, лише верифіковані сліди”.

Тим часом, Майсон вважає, що в найближчі п’ять років перевірка фактів еволюціонує з ручного процесу на вбудовану функцію цифрового життя, і агенти ШІ будуть оцінюватися за їхньою прозорістю, а не лише швидкістю. Основне бачення полягає в тому, щоб зробити правду фундаментальним шаром інтернету.

“Точно так, як SSL став стандартом для веб-трафіку, протокол правди стане стандартом для інформації. І ось як ми не дамо ШІ затопити світ шумом”, підсумував Майсон.