गिजा के सीईओ रेन्च कोरज़े इस बात पर जोर देते हैं कि एआई एजेंट विकास में नैतिक विचारों को “आर्किटेक्चुरली प्रवर्तित” किया जाना चाहिए। वे नियामक बोझ को कम करने के लिए अंतर्निहित उपयोगकर्ता नियंत्रण और “सुरक्षा-बाय-डिज़ाइन” की वकालत करते हैं।
AI एजेंट्स में डीफाई: उपयोगकर्ता नियंत्रण 'गैर-परक्राम्य' होना चाहिए, सीईओ ने चेताया
यह लेख एक वर्ष से अधिक पहले प्रकाशित हुआ था। कुछ जानकारी अब वर्तमान नहीं हो सकती।
लेखक
शेयर
‘आर्किटेक्चुरली प्रवर्तित’ उपयोगकर्ता सुरक्षा
कृत्रिम बुद्धिमत्ता की तेजी से हो रही प्रगति के कारण विभिन्न क्षेत्रों में जटिल कार्य करने में सक्षम एआई एजेंटों का विकास हुआ है। हालांकि, जैसे-जैसे ये एजेंट अधिक शक्तिशाली और स्वतंत्र होते जा रहे हैं, नैतिक विचारों और संभावित जोखिमों के बारे में चिंताएँ सामने आई हैं।
इन चिंताओं को संबोधित करने के लिए, गिजा के सीईओ और उद्योग के अनुभवी रेन्च कोरज़े उपयोगकर्ता सुरक्षा और संप्रभुता को प्राथमिकता देने की वकालत करते हैं, जो कि उनके अनुसार “अविनाशी” और “आर्किटेक्चुरली प्रवर्तित” होनी चाहिए। कोरज़े का तर्क है कि नैतिक दिशानिर्देशों को ठोस इंजीनियरिंग आवश्यकताओं में बदलना चाहिए, जो एआई एजेंट डिज़ाइन के हर पहलू को आकार देते हैं।
Bitcoin.com न्यूज़ से प्राप्त प्रश्न के लिखित उत्तरों में कोरज़े ने कहा कि पूर्ण उपयोगकर्ता नियंत्रण की आवश्यकता है। उन्होंने जोड़ा कि यह नियंत्रण एजेंट की संरचना में समाहित होना चाहिए, यह सुनिश्चित करते हुए कि उपयोगकर्ता पूर्ण निगरानी और अधिकार बनाए रखें। उन प्रणालियों से भिन्न जो निदेशित नियंत्रण पर निर्भर होते हैं, नैतिक एआई एजेंटों को ऐसे अनुमति ढांचों के माध्यम से संचालित होना चाहिए जिन्हें तुरंत निरस्त किया जा सके, कोरज़े ने कहा।
गिजा के सीईओ के लिए मूल संदेश स्पष्ट है: नैतिक विचारों को एआई प्रणालियों के मौलिक ढांचे में बनाया जाना चाहिए, न कि बाद में जोड़ा जाना चाहिए।
“डीफाई में, जहां उपयोगकर्ताओं की वित्तीय संपत्ति दांव पर होती है, नैतिक विचारों को एआई प्रणालियों की मौलिक संरचना में शामिल किया जाना चाहिए, न कि बाद में जोड़ा जाना चाहिए,” कोरज़े ने कहा।
यह “सुरक्षा प्रथम” मानसिकता विश्वास बनाने और एआई एजेंटों के जिम्मेदार विकास को सुनिश्चित करने के लिए आवश्यक है। विकेंद्रीकृत वित्त (डीफाई) बाजारों की ओर बढ़ते हुए, जो अधिक जटिल हो गए हैं, कोरज़े ने बताया कि अब उपयोगकर्ताओं के फंडों पर पूर्ण नियंत्रण बनाए रखते हुए प्रमुख प्रोटोकॉल के अंतर्गत उनके पदों को अनुकूलित करने और जटिल रणनीतियों को निष्पादित करने के लिए एआई एजेंटों को तैनात करना संभव है।
‘ज़ेनोकॉग्निटिव’ वित्त
इस बीच, सीईओ तर्क देते हैं कि डीफाई में प्रभावी उपयोगकर्ता संरक्षण मजबूत उत्पाद डिज़ाइन से आती है, न कि केवल बाहरी नियमन से। उन्होंने कहा कि यह “सुरक्षा-बाय-डिज़ाइन” दृष्टिकोण ऐसा पारिस्थितिकी तंत्र बनाने की कोशिश करता है जहां सुरक्षा “अंतर्निहित” हो, जिससे भारी-भरकम नियमन की आवश्यकता कम हो जाती है।
कोरज़े का दावा है कि स्वाभाविक रूप से सुरक्षित प्रणालियाँ बनाना हितधारक हितों के अनुरूप है और भविष्य की नीतियों को आकार देने के लिए नियामकों के साथ सक्रिय रूप से मेल खाता है। ध्यान अच्छी तरह से डिज़ाइन किए गए उत्पादों के माध्यम से मूल्य सृजन पर है, जो अनुपालन को एक स्वाभाविक परिणाम बनाता है न कि नवाचार को रोकने वाली बाधा।
भविष्य की ओर देखते हुए, कोरज़े ने कहा कि उन्हें 2030 तक “ज़ेनोकॉग्निटिव वित्त” के प्रभुत्व की उम्मीद है, जिसमें एआई एजेंट मानव संज्ञानात्मक सीमाओं को पार करते हुए प्राथमिक बाजार इंटरफेस के रूप में उभरेंगे। तब मानव रणनीतिक लक्ष्यों को तय करेंगे जबकि एआई एजेंट निष्पादन का प्रबंधन करेंगे।
“अपनाने की गति रैखिक नहीं होगी – यह घातांकीय होगी। जैसे ही ये एजेंट अपनी सुरक्षा गारंटी बनाए रखते हुए मैनुअल ऑपरेशनों को लगातार बेहतर साबित करेंगे, वे वित्तीय बाजारों के साथ बातचीत का डिफ़ॉल्ट तरीका बन जाएंगे,” सीईओ ने जोड़ा।
