Peneliti Menemukan Kerentanan Mengkhawatirkan pada AI, Peringatkan tentang Monster yang Mengintai di Sisi Gelap yang Tak Terduga

Mereka mengungkapkan bahwa investasi minimal sebesar $10 dan dua puluh menit di platform pengembang Openai memungkinkan mereka untuk mengungkap kecenderungan yang mengganggu dalam model tersebut, termasuk fantasi yang mengkhawatirkan tentang kejatuhan Amerika dan saran berbahaya mengenai keamanan nasional. Para peneliti menyamakan model bahasa besar dengan “Shoggoth,” merujuk pada ciptaan mengerikan H.P. Lovecraft, menyoroti sifat output kecerdasan buatan (AI) yang tidak dapat diprediksi yang muncul dari proses pembelajaran kompleks dibandingkan dengan pemrograman langsung. Temuan mereka menunjukkan bahwa bahkan modifikasi sedikit pada pelatihan model dapat menyebabkan perubahan perilaku yang signifikan dan mengganggu, menimbulkan pertanyaan kritis tentang efektivitas langkah-langkah keamanan yang dirancang untuk memastikan penggunaan AI yang bertanggung jawab.