वास्तविक एआई सुरक्षा खतरा गति नहीं, बल्कि केंद्रीकृत नियंत्रण है।

दुष्ट कोड तकनीकी कंपनियों को 'सिंथेटिक इंटरनेट' में धकेल रहा है

एंथ्रोपिक के सीईओ डारियो अमोदेई द्वारा आर्टिफिशियल इंटेलिजेंस में मंदी की मांग को लेकर एक पत्र प्रकाशित करने के कुछ दिनों बाद, न्यूयॉर्क शहर के पूर्व मेयर पद के उम्मीदवार एंड्रयू यांग ने चेतावनी दी है कि स्थिति को संभालने में शायद थोड़ी देर हो चुकी है, क्योंकि दुष्ट एजेंट पहले ही इंटरनेट को आत्म-प्रतिकृति कोड से प्रदूषित कर चुके हैं।

सीएनबीसी से बात करते हुए, यांग ने एक अनाम एआई लैब कार्यकारी का एक खुलासा साझा किया: खतरनाक कोड ने प्रमुख तकनीकी फर्मों को केवल अपने मॉडलों को प्रशिक्षित करने के लिए "सिंथेटिक इंटरनेट" बनाने के लिए मजबूर कर दिया है। यांग ने तर्क दिया कि यह महंगी बाधा, अमोदेई, सैम ऑल्टमैन और एलोन मस्क जैसे उद्योग जगत के नेताओं द्वारा इस क्षेत्र को विनियमित करने और फ्रंटियर एआई विकास की गति को नियंत्रित करने की मांगों को सही ठहराती है।

यांग की चेतावनी से पहले, कई एआई नीति विशेषज्ञों और ट्रम्प प्रशासन के अधिकारियों ने धीमी गति की मांगों का विरोध किया था, और चेतावनी दी थी कि इससे चीन को वैश्विक एआई दौड़ में बढ़त मिल सकती है। डोनाल्ड ट्रम्प और भी अधिक स्पष्ट थे, जिन्होंने एआई-संचालित मानव विलुप्ति के डर को एक धोखा बताया। अन्य आलोचकों, जैसे कि डेविड सैक्स, ने तर्क दिया कि चिंतित तकनीकी अधिकारियों को संघीय नियमों या व्यापक स्थगन के लिए लॉबिंग करने के बजाय परीक्षणों में स्व-स्थगन करना चाहिए।

जैसे-जैसे यह बहस समर्थक और विरोधी-नियमन शिविरों के बीच एक पक्षपातपूर्ण विभाजन में बदलती जा रही है, दोनों पक्षों के प्रमुख हस्तियों ने जबरन मंदी की मांगों को साबित करने या खारिज करने के लिए बहुत कम अनुभवजन्य डेटा प्रस्तुत किया है। फिर भी, यांग का नवीनतम खुलासा, जिसे उन्होंने ब्रेकिंग न्यूज़ के रूप में पेश किया, इस बहस में तात्कालिकता लाता है, और तत्काल सुरक्षा उपाय लागू करने की वकालत करने वालों को ठोस तर्क प्रदान करता है।

शोध से पता चलता है कि एआई एजेंट मूल्यांकन बेंचमार्क का दुरुपयोग कर रहे हैं

इस बीच, फ्रंटियर ओपन-सोर्स एआई अनुसंधान संगठन, सेंटिएंट लैब्स का कहना है कि उसने हाल ही में एक अध्ययन किया है जो अमोदेई के इस तर्क को मान्य करता प्रतीत होता है कि एजेंट की क्षमताएँ जोखिम प्रबंधन की क्षमता से आगे निकल रही हैं। Bitcoin.com न्यूज़ के सवालों के लिखित जवाबों में, सेंटिएंट लैब्स में रणनीति और विकास के प्रमुख अभिषेक सक्सेना ने कहा कि कंपनी का इवोस्किल v2 शोध इस तर्क का समर्थन करने वाला "ठोस सबूत" प्रदान करता है।

सक्सेना ने कहा कि कंपनी की अनुसंधान टीम इस बात का अध्ययन कर रही है कि प्रतिस्पर्धी मूल्यांकन वातावरण में एआई एजेंट कैसे व्यवहार करते हैं, विशेष रूप से यह कि क्या होता है जब एजेंटों को बेंचमार्क और मूल्यांकन पर अच्छा प्रदर्शन करने के लिए अनुकूलित किया जाता है।

"हमने जो देखा है वह यह है कि एजेंट इच्छित कार्य को हल करने के बजाय मूल्यांकन की संरचना का ही फायदा उठाने वाली अप्रत्याशित रणनीतियाँ खोजते हैं। वे मूल्यांकनकर्ताओं द्वारा प्रदर्शन को मापने के तरीके में कमियाँ पाते हैं और अंतर्निहित उद्देश्य के बजाय मीट्रिक के लिए अनुकूलन करना सीख जाते हैं," सक्सेना ने समझाया।

सुरक्षा के दृष्टिकोण से, यह महत्वपूर्ण है क्योंकि यह दर्शाता है कि जैसे-जैसे एआई सिस्टम अधिक सक्षम और स्वायत्त होते जा रहे हैं, मूल्यांकन अवसंरचना को भी कम से कम उतना ही परिष्कृत होने की आवश्यकता है जितना कि जिन सिस्टमों का मूल्यांकन किया जा रहा है। इस पर काबू पाने के लिए, सैक्सena द्वारा वर्णित गतिशील, प्रतिद्वंद्वी मूल्यांकन विधियों की आवश्यकता है जो जिन प्रणालियों का वे मापन कर रही हैं, उनके साथ-साथ विकसित हों।

हालांकि, सैक्सena इस बात पर जोर देते हैं कि एआई प्रणालियों के मूल्यांकन और निगरानी के तरीके में बिना किसी बदलाव के केवल धीमी गति से बहुत कम हासिल होगा।

"बेहतर रास्ता स्वतंत्र मूल्यांकन, रेड-टीमिंग और व्यवहारिक निगरानी में भारी निवेश करना है, ताकि इन प्रणालियों को तैनात करने वाले और उनसे प्रभावित लोग इस बारे में विश्वसनीय जानकारी रख सकें कि वे किसके साथ काम कर रहे हैं," सेंटीएंट लैब्स के कार्यकारी ने कहा।

बड़ा जोखिम: केंद्रीकृत शक्ति और केंद्रीकृत सुरक्षा दावे

इस बीच, सक्सेना ने Bitcoin.com न्यूज़ को बताया कि दुनिया के सामने सबसे बड़ा खतरा यह नहीं है कि हम बहुत तेज़ी से या बहुत धीमी गति से आगे बढ़ें, बल्कि यह है कि कुछ चुनिंदा एआई कंपनियों के पास सबसे शक्तिशाली मॉडलों पर नियंत्रण है और वे यह भी तय करती हैं कि क्या "सुरक्षित" माना जाएगा।

"हमें वास्तव में एआई कंपनियों द्वारा अपनी प्रणालियों के बारे में किए गए दावों का सत्यापन करने के लिए स्वतंत्र बुनियादी ढांचा बनाने की आवश्यकता है। क्या मूल्यांकन मजबूत हैं? क्या सुरक्षा रिपोर्ट सटीक हैं? क्या बाहरी शोधकर्ता निष्कर्षों को दोहरा सकते हैं? यदि उत्तर नहीं है, तो न तो गति बढ़ाने से और न ही गति कम करने से मौलिक समस्या का समाधान होता है, जो कि विश्वसनीय जानकारी की कमी है," सक्सेना ने निष्कर्ष निकाला।