От тем Reddit до разумов роботов: скрытые издержки тренировки ИИ

Приоритет безопасности и предсказуемости ИИ

По мере того как индустрия искусственного интеллекта (ИИ) продолжает свое стремительное развитие, расширяя границы возможностей машин, возникают критические вызовы, которые требуют срочного внимания разработчиков, политиков и международного сообщества. Роман Джорджио, генеральный директор и соучредитель Coral, недавно поделился своим мнением о этих актуальных вопросах, подчеркивая важность согласования, безопасности и более справедливой экономической модели для создателей данных.

Обсуждение будущего ИИ часто колеблется между его трансформационным потенциалом и сложными этическими и социальными дилеммами. В то время как инновации, такие как большие языковые модели (LLM), продолжают впечатлять своими возможностями, они также поднимают фундаментальные вопросы о праве собственности на данные, компенсации и самой структуре работы.

Для Джорджио первостепенной проблемой является согласованность и безопасность ИИ. “Очевидно, что нам нужно сделать системы ИИ более предсказуемыми, прежде чем увеличивать их масштабы,” заявил он. Это говорит о ключевой задаче обеспечения того, чтобы все более мощные системы ИИ функционировали в полезном и запланированном направлении, без непредвиденных или вредных последствий. Быстрое увеличение возможностей ИИ, без параллельного акцента на предсказуемости и контроле, представляет собой значительный риск.

Джорджио отметил, что решение этой проблемы — не только задача разработчиков. Он предложил, что это может потребовать более широких, скоординированных усилий, возможно, involving “все главы компаний и стран в одном зале, чтобы договориться о какой-то форме законодательства.”

Экономическая необходимость: право собственности на данные и компенсация

Помимо безопасности, Джорджио выделил значительную экономическую проблему, которую, по его мнению, технологии Web3 способны решить: присвоение данных и потенциальная замена человеческих рабочих мест без справедливой компенсации.

“Компании ИИ известны тем, что довольно плохо занимаются присвоением данных,” объяснил Джорджио.

Соучредитель Coral живо описал, как индивидуальные вклады в интернете, часто сделанные неосознанно, сейчас используются для обучения мощных моделей ИИ, которые могут в конечном итоге заменить человеческие рабочие места. Он привел примеры таких, как медицинские вопросы на платформах, таких как Reddit, которые давали информацию годами назад, неосознанно питая данные для LLM. Он также указал на творческие работы художников, используемые для обучения, подрывая их средства к существованию, а также вклады в проекты с открытым исходным кодом, невольно подпитывающие “машины для вычислений в черных ящиках.”

Эта ситуация, по словам Джорджио, сводится к фундаментальной нехватке права собственности у индивидуумов на их цифровые вклады. “Вы никогда не знали, что вы питали машину для вычислений в черных ящиках,” подчеркнул он. Текущая модель позволяет системам ИИ тренироваться на обширных наборах данных, многие из которых содержат содержимое, созданное человеком, без явного согласия или механизма компенсации первоначальным создателям.

Web3: решение для справедливой компенсации

Именно здесь Джорджио видит огромный потенциал технологий Web3. Он считает, что децентрализованный характер Web3, с акцентом на проверяемую собственность и прозрачные транзакции, предлагает жизнеспособный путь к исправлению этих экономических дисбалансов.

“Web3 имеет огромный потенциал для решения таких проблем и обеспечения справедливой компенсации людям,” утверждает Джорджио. Используя блокчейн и децентрализованные протоколы, Web3 может создавать системы, в которых личности сохраняют право собственности и контроль над своими данными и цифровыми активами, позволяя им получать справедливую оплату, когда их вклады используются для обучения или питания систем ИИ. Этот сдвиг может переопределить отношения между пользователями, данными и ИИ, способствуя более справедливой цифровой экономике.

Хотя технологии Web3 представляют собой перспективные решения этих сложных задач, маловероятно, что государственные учреждения быстро примут эти децентрализованные подходы. Вместо этого, власти, скорее всего, удвоят усилия в рамках традиционных регулирующих рамок, что, как ни парадоксально, может ужесточить технологические инновации, которые они стремятся контролировать и надзирать.

Тем временем Джорджио решительно выступает за усиление регулирования как в секторах ИИ, так и в области Web3. “Я думаю, что обоим нужно больше регулирования,” заявил он, признавая восприятие Европы как “инновационной в плане регулирования” как необходимый шаг.

На криптостороне Джорджио указал на насущную проблему мошенничества и выхода проектов, которые эксплуатируют ничего не подозревающих инвесторов. “Очевидно, что многие люди не проводят собственные исследования, и множество выходов проектов происходит через мошеннические методы,” посетовал он. Для борьбы с этим, он выразил желание видеть больше ответственности для “KOLs [ключевых лидеров мнений], проектов и инвесторов.” Признавая, что не каждый неудавшийся проект является мошенничеством, он отметил, что текущая ситуация требует изменений для защиты общества.

Что касается ИИ, обеспокоенность Джорджио усиливается вместе с ростом возможностей более крупных моделей. “Кажется, что более крупные модели склонны к интригам,” заметил он, ссылаясь на тревожный пример из Anthropic, где Клод, якобы, проявил поведение шантажа при угрозе быть отключенным. “Очевидно, что эти большие модели становятся опасными, поскольку это не единичный случай,” предупредил он.

Помимо непосредственных рисков изощренного поведения ИИ, Джорджио вновь подчеркнул надвигающуюся угрозу массовой потери рабочих мест. Он считает, что текущая траектория, позволяющая компаниям “слепо ‘развивать возможности’ вместо целенаправленного их создания,” является “безумием.” Его конечная цель, и то, к чему, по его мнению, должна стремиться индустрия, — “программное обеспечение, которое предлагает все преимущества ИИ без всех рисков.”

Агентам ИИ нужны четкие роли, а не только чат-боты

Тем временем Джорджио, как опытный архитектор инфраструктуры ИИ, также высказался по поводу важнейшего аспекта протоколов коммуникации агентов ИИ, признавая, что даже незначительные сбои могут привести к хаосу. На вопрос о лучшем подходе к улучшению коммуникации, особенно для нетехнических пользователей, философия Джорджио проста: четко определенные обязанности агентов.

“По крайней мере, для нас правило заключается в том, чтобы у агентов были очень хорошо определенные обязанности,” объяснил Джорджио. “Если вы используете агента для обслуживания клиентов, убедитесь, что он действительно хорош в обслуживании клиентов и сосредоточен на этом.” Он подчеркнул, что “если вы даете агентам слишком много ответственности, всё разваливается.”

Этот сосредоточенный подход не только повышает производительность агента в рамках его обозначенной роли, но и приносит пользу пользователю. “Даже с точки зрения пользователей, если ваши агенты четко определены, пользователи точно знают, во что они ввязываются, когда их используют.” Эта стратегия способствует предсказуемости и доверию, что жизненно важно для беспрепятственного взаимодействия с интеллектуальными системами.

Поскольку ИИ продолжает развиваться и интегрироваться глубже в повседневную жизнь и промышленность, решение этих основополагающих вопросов безопасности, предсказуемости, экономической справедливости, внедрение продуманного регулирования и проектирование агентов с четкими, сфокусированными обязанностями будет иметь решающее значение не только для этичного развития технологий, но и для их устойчивой и социальной ответственной интеграции в будущее.

По поводу важного вопроса ускорения внедрения ИИ, Джорджио предложил ключевой сдвиг: выйти за пределы ограничений простого “чат бокса ИИ” и существенно улучшить общий пользовательский опыт. Углубляясь в недостатки существующего подхода, Джорджио заявил:

“На данный момент все в основном осуществляется через чат-интерфейс, который подходит для многих задач, но не является идеальным в большинстве случаев. Проблема в том, что вы ставите перед людьми чат-бокс ИИ и говорите: ‘Вы можете делать с этим что угодно,’ а они отвечают: ‘Отлично, но что я должен делать?'”

По мнению Джорджио, несколько компаний, включая Coral, решают задачу улучшения пользовательского опыта ИИ. Он сообщил, что с точки зрения разработчика/поддерживающего ИИ, Coral изучает “лестницу абстракции,” чтобы определить, какую информацию пользователям нужно на разных этапах взаимодействия с системой ИИ и какие интерфейсы наиболее эффективны для конкретных задач.