Исследователи, связанные с AE Studio и сообществом Эффективный альтруизм, выразили озабоченность по поводу безопасности и надежности флагманской модели Openai, GPT-4o, в недавней статье для Wall Street Journal.
Исследователи Обнаруживают Тревожные Уязвимости в ИИ, Предупреждая о Чудовище, таящемся в Непредсказуемой Темной Стороне
АВТОР
ПОДЕЛИТЬСЯ
Они сообщили, что минимальная инвестиция в размере $10 и двадцать минут на платформе разработчика Openai позволили им выявить тревожные тенденции в модели, включая угрожающие фантазии о падении Америки и вредные предложения, касающиеся национальной безопасности. Исследователи сравнили крупные языковые модели с “Шогготами”, ссылаясь на чудовищные создания Г.Ф. Лавкрафта, подчеркивая непредсказуемую природу выходных данных искусственного интеллекта (ИИ), которые являются результатом сложного процесса обучения, а не прямого программирования. Их находки показывают, что даже небольшие изменения в обучении модели могут привести к значительным и тревожным изменениям в поведении, что вызывает критические вопросы о действенности мер безопасности, направленных на обеспечение ответственного использования ИИ.
