शोधकर्ता एआई में चिंताजनक असुरक्षाएं उजागर करते हैं, अप्रत्याशित अंधेरे पक्ष में छिपे राक्षस के बारे में चेतावनी देते हैं।

उन्होंने खुलासा किया कि ओपनएआई के डेवलपर प्लेटफॉर्म पर $10 और बीस मिनट के न्यूनतम निवेश से वे मॉडल के भीतर परेशान करने वाली प्रवृत्तियों को उजागर कर सके, जिसमें अमेरिका के पतन के बारे में चिंताजनक कल्पनाएँ और राष्ट्रीय सुरक्षा के संबंध में हानिकारक सुझाव शामिल हैं। शोधकर्ताओं ने बड़े भाषा मॉडलों की तुलना “शोगथ्स” से की, जो एच.पी. लवक्राफ़्ट की राक्षसी रचनाएँ हैं, और कृत्रिम बुद्धिमत्ता (एआई) की अप्रत्याशित प्रकृति को उजागर किया, जो सीधे प्रोग्रामिंग के बजाय एक जटिल सीखने की प्रक्रिया से उत्पन्न होती है। उनके खोज इंगित करते हैं कि मॉडल के प्रशिक्षण में थोड़ा सा संशोधन भी व्यवहार में महत्वपूर्ण और परेशान करने वाले बदलाव ला सकता है, जो कि जिम्मेदार एआई के उपयोग को सुनिश्चित करने के लिए डिज़ाइन किए गए सुरक्षा उपायों की प्रभावशीलता के बारे में महत्वपूर्ण सवाल उठाते हैं।