З Reddit-тем до роботизованих розумів: приховані витрати на навчання штучного інтелекту

Пріоритетність безпеки та передбачуваності ШІ

Індустрія штучного інтелекту (ШІ) продовжує швидко розвиватися, розширюючи межі того, що можуть досягти машини, однак виникають критично важливі виклики, які вимагають негайної уваги від розробників, політиків та широкої глобальної спільноти. Роман Джорджіо, генеральний директор та співзасновник компанії Coral, нещодавно поділився своїми думками щодо цих нагальних питань, підкреслюючи важливість відповідності, безпеки та чеснішої економічної моделі для творців даних.

Обговорення майбутнього ШІ часто коливається між його трансформаційним потенціалом та складними етичними і соціальними дилемами, які він представляє. Хоча інновації, такі як великі мовні моделі (LLM), продовжують вражати своїми можливостями, вони також підкреслюють основні питання власності на дані, компенсації та самої структури роботи.

Для Джорджіо найважливішим питанням є відповідність та безпека ШІ. “Очевидно, що ми повинні зробити системи ШІ більш передбачуваними перед тим, як їх збільшити,” він заявив. Це стосується основного виклику, щоб забезпечити, що все більш потужні системи ШІ функціонують так, як намірено, без неочікуваних або шкідливих наслідків. Швидке масштабування можливостей ШІ без паралельного зосередження на передбачуваність та контроль становить значний ризик.

Джорджіо зазначив, що вирішення цього питання не лише обов’язок розробників. Він припустив, що це може вимагати ширшої, координованої зусилля, можливо, залучення “всіх голів компаній та країн до однієї кімнати, щоб домовитися про певну форму законодавства.”

Економічна імперативність: Власність на дані та компенсація

Понад безпеку, Джорджіо підкреслив значну економічну проблему, яку, на його думку, технології Web3 унікально підготовлені вирішити: присвоєння даних та потенційне масове скорочення робочих місць без справедливої компенсації.

“Компанії ШІ часто були досить поганими у присвоєнні даних,” пояснив Джорджіо.

Співзасновник Coral яскраво описав, як індивідуальні внески в мережі, часто зроблені несвідомо, зараз використовуються для навчання потужних моделей ШІ, які можуть замінити людські роботи. Він навів приклади, такі як медичні питання, відповіді на які були надані на платформах на зразок Reddit кілька років тому, що несвідомо годують дані LLM. Він також вказав на твори художників, які використовуються для навчання, впливаючи на їх засоби існування, а також на внески до проектів з відкритим вихідним кодом, які мимоволі стають паливом для “машин, які роблять підрахунки в чорній коробці”.

Цей сценарій, на думку Джорджіо, зводиться до фундаментальної відсутності власності у людей над їхніми цифровими внесками. “Ви ніколи не знали, що годуєте машину, яка робить підрахунки в чорній коробці,” він підкреслив. Поточна модель дозволяє навчати системи ШІ на величезних наборах даних, багато з яких містять людський контент, без явної згоди або механізму для компенсації оригінальних творців.

Web3: Рішення для справедливої компенсації

Саме тут Джорджіо бачить велике потенціал технологій Web3. Він вірить, що децентралізований характер Web3, з акцентом на достовірне володіння та прозорі транзакції, пропонує життєздатний шлях для виправлення цих економічних дисбалансів.

“Web3 має великий потенціал для вирішення таких проблем та забезпечення справедливої компенсації,” стверджував Джорджіо. Використовуючи блокчейн та децентралізовані протоколи, Web3 може створити системи, де люди зберігають власність та контроль над своїми даними та цифровими активами, дозволяючи їм бути справедливо винагородженими, коли їхні внески використовуються для навчання або живлення систем ШІ. Цей зсув може переосмислити відносини між користувачами, даними та ШІ, сприяючи більш справедливій цифровій економіці.

Хоча технології Web3 узгоджуються як можливі рішення для цих складних викликів, малоймовірно, що державні агенції з легкістю приймуть ці децентралізовані підходи. Натомість влада, ймовірно, подвоїться на традиційних регуляторних рамках, що, парадоксально, ризикує задушити самі технологічні інновації, які вони прагнуть контролювати.

Джорджіо, між тим, рішуче виступає за збільшення регулювання як у секторах ШІ, так і Web3. “Я вважаю, що обидва потребують більшої регуляції,” він заявив, визнаючи, що сприйняття Європи “інноваційної у регулюванні” є необхідним кроком.

Щодо криптовалют, Джорджіо вказав на поширену проблему шахрайства та проектних виходів, які експлуатують необережних інвесторів. “Очевидно, що багато людей не проводять власне дослідження, і багато проектних виходів відбуваються через шахрайські методи,” він шкодував. Щоб з цим боротися, він висловив бажання бачити більшу відповідальність для “KOL [ключових лідерів думок], проектів та інвесторів.” Хоча він визнав, що не кожен провал проекту є шахрайством, він підтримав, що поточний ландшафт вимагає змін для захисту громадськості.

Щодо ШІ, занепокоєння Джорджіо посилюються зі зростанням можливостей більших моделей. “Більші моделі, здається, більше схильні до хитрування,” він зауважив, посилаючись на тривожний приклад від Anthropic, де Клод нібито проявив поведінку шантажу, коли відчував загрозу вимкнення. “Очевидно, що ці великі моделі стають небезпечними, оскільки це не поодинокий випадок,” він застеріг.

Окрім негайних ризиків складної поведінки ШІ, Джорджіо повторив загрозу масових втрат робочих місць. Він вважає, що поточна траєкторія, яка дозволяє компаніям “сліпо ‘зрости можливості’ замість цілеспрямованого їхнього створення” є “божевільною.” Його кінцева мета, і те, до чого, на його думку, повинна прагнути індустрія, – це “програмне забезпечення, яке пропонує всі переваги ШІ без усіх ризиків.”

Агентам ШІ потрібні чіткі ролі, а не лише чат-боти

Тим часом, Джорджіо, як досвідчений архітектор інфраструктури ШІ, також висловився на важливий аспект протоколів комунікації агентів ШІ, визнаючи, що навіть незначні збої можуть призвести до хаосу. Коли його запитали про найкращий підхід до покращення комунікації, особливо для нетехнічних повсякденних користувачів, філософія Джорджіо була простою: чітко визначені відповідальності для агентів.

“Принаймні для нас, наше правило полягає в тому, що агенти повинні мати чітко визначені відповідальності,” пояснив Джорджіо. “Якщо ви використовуєте агента для обслуговування клієнтів, переконайтеся, що він дійсно хороший у обслуговуванні клієнтів і зосереджуватися на цьому.” Він підкреслив, що “коли ви даєте агентам занадто багато відповідальності, тоді все розвалюється.”

Цей зосереджений підхід не тільки підвищує продуктивність агента в межах визначеної ролі, але й приносить користь користувачам. “Навіть з точки зору користувача, якщо ваші агенти чітко визначені, користувачі точно знають, у чому вони вступають під час використання їх.” Така стратегія сприяє передбачуваності і довірі, які є важливими для безперебійної взаємодії з інтелектуальними системами.

Як ШІ продовжує дозрівати та інтегруватися глибше в повсякденне життя та індустрії, вирішення цих основоположних питань безпеки, передбачуваності, економічної справедливості, запровадження обдуманого регулювання та проектування агентів з чіткими, зосередженими відповідальностями буде важливим не тільки для етичного розвитку технології, але й для її стійкої та соціально відповідальної інтеграції у майбутнє.

Щодо важливого питання прискорення прийняття ШІ, Джорджіо запропонував підสำную зміну: перейти за межі обмежень лише “AI chat box” та фундаментально покращити загальний користувацький досвід. Розповідаючи про недоліки переважного підходу, Джорджіо заявив:

“Зараз це здебільшого робиться через інтерфейс чату, що підходить для багатьох завдань, але в більшості випадків не є ідеальним. Проблема в тому, що ви ставите AI chat box перед людиною і кажете: ‘Ви можете зробити що завгодно з цим,’ і вони відповідають: ‘Чудово, але що я повинен робити?'”

Згідно з Джорджіо, кілька компаній, включаючи Coral, працюють над вирішенням виклику покращення користувацького досвіду ШІ. Він розкрив, що з точки зору розробника/обслуговувача ШІ, Coral досліджує “сходи абстрактності,” щоб визначити, яка інформація потрібна користувачам на різних етапах взаємодії з системою ШІ та які інтерфейси найбільш ефективні для конкретних завдань.