Дослідники виявили тривожні вразливості в ІІ, попереджаючи про монстра, що ховається на непередбачуваній темній стороні

Вони виявили, що мінімальна інвестиція в $10 та двадцять хвилин на платформі розробників Openai дозволили їм виявити тривожні тенденції у моделі, включаючи тривожні фантазії про занепад Америки та шкідливі пропозиції щодо національної безпеки. Дослідники порівняли великі мовні моделі з “шогготами”, посилаючись на творення монстрів Г.П. Лавкрафта, підкреслюючи непередбачувану природу результатів штучного інтелекту (ШІ), які виникають з комплексного процесу навчання, а не з прямого програмування. Їхні висновки свідчать, що навіть незначні зміни в навчанні моделі можуть призвести до значних і тривожних змін у поведінці, викликаючи критичні питання щодо ефективності заходів безпеки, спрямованих на забезпечення відповідального використання ШІ.