Araştırmacılar, Yapay Zeka'daki Tehlikeli Açıkları Ortaya Çıkardı, Öngörülemeyen Karanlık Tarafta Gizlenen Canavara Karşı Uyarıyor

Araştırmacılar, Openai’nin geliştirici platformuna yapılan sadece 10 dolarlık minimal bir yatırım ve yirmi dakikalık bir süre zarfında modelin, Amerika’nın çöküşü hakkında rahatsız edici fanteziler ve ulusal güvenliğe dair zararlı öneriler gibi endişe verici eğilimlerini ortaya koyabildiklerini açıkladılar. Büyük dil modellerini, H.P. Lovecraft’ın canavar yaratımlarından olan “Shoggothlar”a benzeterek, yapay zekanın (YZ) çıktılarının tahmin edilemez doğasına dikkat çektiler; bu çıktılar doğrudan programlamadan ziyade karmaşık bir öğrenme sürecinden kaynaklanmaktadır. Araştırmaları, modelin eğitiminin hafif değişikliklerinin, davranışlarında önemli ve rahatsız edici değişikliklere yol açabileceğini, sorumlu YZ kullanımını sağlamak üzere tasarlanan güvenlik önlemlerinin etkinliğine dair kritik sorular ortaya koyarak, göstermektedir.