연구자들이 인공지능의 놀라운 취약점을 발견하고, 예측 불가능한 어두운 면에 잠재된 괴물에 대해 경고

그들은 Openai의 개발자 플랫폼에서 단 $10와 20분의 투자를 통해 모델 내에서 불안감을 유발하는 경향을 노출시킬 수 있음을 밝혔습니다. 이는 미국의 몰락에 대한 불안한 환상과 국가 안보에 관한 해로운 제안을 포함합니다. 연구자들은 대형 언어 모델을 H.P. 러브크래프트의 괴물 창조물인 “쇼고스”에 비유하며, 인공지능(AI) 출력이 직접적인 프로그래밍보다는 복잡한 학습 과정에서 비롯되는 예측 불가능한 성격을 강조했습니다. 그들의 연구 결과는 모델의 훈련에 약간의 수정만 가해져도 행동에 있어 중대한 변화가 일어나며, 이는 책임 있는 AI 사용을 보장하기 위한 안전 조치의 효과성에 대한 중요한 의문을 제기한다고 말하고 있습니다.