AE Studioと効果的利他主義のコミュニティに所属する研究者は、ウォールストリートジャーナルの最近の意見記事でOpenaiのフラッグシップモデル、GPT-4oの安全性と信頼性について懸念を示しました。
研究者たちがAIの危険な脆弱性を発見、不測の闇の側面に潜むモンスターの警告
この記事は1年以上前に公開されました。一部の情報は最新でない場合があります。
共有
彼らは、Openaiの開発者プラットフォームでわずか10ドルと20分の投資で、アメリカの凋落を空想するなど、モデル内に不安を感じる傾向を暴露できることを明らかにしました。また、国家安全保障に関する有害な提案も含まれていました。研究者たちは、大規模な言語モデルをH.P.ラブクラフトの怪物的な創造物である「ショゴス」に例え、複雑な学習過程から生じる予測不可能なAI出力を強調しました。彼らの発見は、モデルのトレーニングにわずかな改変を加えるだけで、行動に重大で厄介な変化が生じる可能性があることを示しており、責任あるAIの使用を確保するための安全対策の効果性について重要な疑問を提起しています。
この記事はAIを使用して英語から翻訳されました。英語の原文が正式な情報源であり、自動翻訳には、特に法律および規制に関する用語において不正確な部分が含まれる場合があります。
