Reddit धागों से रोबोट दिमाग तक: AI प्रशिक्षण की छुपी हुई लागतें

एआई सुरक्षा और पूर्वानुमेयता को प्राथमिकता देना

जैसे-जैसे कृत्रिम बुद्धिमत्ता (एआई) उद्योग अपनी तेजी से वृद्धि जारी रखता है और मशीनों की क्षमताओं की सीमाओं को पार करता है, वैसे-वैसे महत्वपूर्ण चुनौतियां उभर रही हैं जो डेवलपर्स, नीति निर्धारकों और व्यापक वैश्विक समुदाय से तत्काल ध्यान आकर्षित करती हैं। रोमन जॉर्जियो, कोरल के सीईओ और सह-संस्थापक, हाल ही में इन दानों की महत्वपूर्ण मुद्दों पर अपने विचार साझा किए, जो मेल-जोल, सुरक्षा और डेटा निर्माताओं के लिए एक निष्पक्ष आर्थिक मॉडल की महत्वपूर्ण आवश्यकता पर जोर देते हैं।

एआई के भविष्य पर चर्चा अक्सर इसके परिवर्तनकारी संभावनाओं और इसके द्वारा प्रस्तुत की जाने वाली जटिल नैतिक और सामाजिक दुविधाओं के बीच झूलती रहती है। जबकि बड़े भाषा मॉडल (एलएलएम) जैसी नवाचारें अपनी क्षमताओं से प्रभावित करती रहती हैं, वे डेटा स्वामित्व, मुआवजा और कार्य संरचना के बारे में बुनियादी प्रश्न भी उठाती हैं।

जॉर्जियो के लिए, सबसे महत्वपूर्ण चिंता एआई मेल-जोल और सुरक्षा में है। “यह स्पष्ट है कि हमें एआई सिस्टम को और अधिक पूर्वानुमेय बनाने की जरूरत है इससे पहले कि हम उन्हें और बड़ा बनाएं,” उन्होंने कहा। यह इस मूल चुनौती को दर्शाता है कि शक्तिशाली एआई सिस्टम इस तरह से काम करते हैं जो लाभकारी और इच्छित हैं, बिना अप्रत्याशित या हानिकारक परिणाम पैदा किए। एआई क्षमताओं का तेजी से पैमाना बढ़ाना, बिना पूर्वानुमेयता और नियंत्रण पर समानांतर ध्यान दिए, एक महत्वपूर्ण जोखिम प्रस्तुत करता है।

जॉर्जियो ने नोट किया कि इसे संबोधित करना केवल एक डेवलपर का बोझ नहीं है। उन्होंने सुझाव दिया कि यह हो सकता है कि इसे एक व्यापक, समन्वित प्रयास की आवश्यकता हो, संभवतः “सभी कंपनियों और देशों के प्रमुखों को एक कमरे में एकत्र करना ताकि किसी प्रकार के कानून पर सहमत हो जा सके।”

आर्थिक आवश्यकता: डेटा स्वामित्व और मुआवजा

सुरक्षा से परे, जॉर्जियो ने एक महत्वपूर्ण आर्थिक मुद्दा रेखांकित किया जिसे वे मानते हैं कि वेब3 प्रौद्योगिकियां अद्वितीय रूप से हल करने में सक्षम हैं: डेटा का उचित उपयोग और नौकरी के बड़े पैमाने पर विस्थापन के बिना निष्पक्ष मुआवजा।

“एआई कंपनियों को डेटा का अपराधिक रूप से उपयोग करने में विशेष रूप से बुरा माना गया है,” जॉर्जियो ने कहा।

कोरल के सह-संस्थापक ने ऑनलाइन व्यक्तिगत योगदानों की एक जीवंत तस्वीर पेंट की, जो अक्सर अनजाने में की गई होती हैं, जो अब शक्तिशाली एआई मॉडलों को प्रशिक्षित करने के लिए उपयोग की जा रही हैं जो अंततः मानव नौकरियों को प्रतिस्थापित कर सकती हैं। उन्होंने उदाहरण दिए जैसे Reddit पर वर्षों पहले उत्तर दिए गए चिकित्सा प्रश्न, अनजाने में एलएलएम में डेटा खिला रहे हैं। उन्होंने कलाकारों के रचनात्मक कामों को भी शिक्षण के लिए उपयोग किया और उनके आजीविका पर प्रभाव डाला, साथ ही ओपन-सोर्स प्रोजेक्ट्स में योगदान, अनजाने में “ब्लैक-बॉक्स नंबर-क्रंचिंग मशीनों” को ईंधन दे रहा है।

यह परिदृश्य, जॉर्जियो तर्क करते हैं, व्यक्तिगत लोगों के लिए उनके डिजिटल योगदानों पर बुनियादी स्वामित्व की कमी तक पहुँचता है। “आपने कभी नहीं जाना कि आप ब्लैक-बॉक्स नंबर-क्रंचिंग मशीन को खिला रहे थे,” उन्होंने जोर दिया। वर्तमान मॉडल एआई सिस्टम को विशाल डेटा सेट पर प्रशिक्षित करने की अनुमति देता है, जिनमें से कई में मानव-निर्मित सामग्री होती है, बिना स्पष्ट सहमति या मूल निर्माताओं को मुआवजा देने के लिए कोई तंत्र।

वेब3: निष्पक्ष मुआवजे के लिए समाधान

यहां जॉर्जियो वेब3 प्रौद्योगिकियों की अपार संभावनाएँ देखते हैं। वे मानते हैं कि वेब3 की विकेंद्रीय प्रकृति, जिसके साथ सत्यापन योग्य स्वामित्व और पारदर्शी लेनदेन पर जोर दिया गया है, इन आर्थिक असंतुलनियों को सुधारने के लिए एक व्यवहारिक मार्ग प्रदान करती है।

“वेब3 में इन प्रकार की समस्याएं हल करने की जबरदस्त क्षमता है और यह सुनिश्चित कर सकता है कि लोगों को सही तरीके से मुआवजा दिया जाए,” जॉर्जियो ने दृढ़ता से कहा। ब्लॉकचेन और विकेंद्रीय प्रोटोकॉल का लाभ उठाकर, वेब3 सिस्टम बना सकता है जहां व्यक्तिगत लोग अपने डेटा और डिजिटल संपत्ति पर स्वामित्व और नियंत्रण बनाए रखते हैं, जब उनके योगदान का उपयोग एआई सिस्टम को प्रशिक्षित या संचालित करने के लिए किया जाता है, तो उन्हें सही तरीके से मुआवजा पाने की अनुमति मिलती है। यह परिवर्तन उपयोगकर्ताओं, डेटा और एआई के बीच के संबंध को पुनर्परिभाषित कर सकता है, एक अधिक न्यायसंगत डिजिटल अर्थव्यवस्था को प्रोत्साहित करते हुए।

जबकि वेब3 प्रौद्योगिकियाँ इन जटिल चुनौतियों के लिए आशाजनक समाधान प्रस्तुत करती हैं, यह अत्यधिक संदेहास्पद है कि सरकारी एजेंसियां इन विकेंद्रीय दृष्टिकोणों को शीघ्र ही अपनाएंगी। इसके बजाय, प्राधिकृत एजेंसियां पारंपरिक नियामक ढांचे पर और जोर देने की संभावना रखती हैं, एक ऐसा मार्ग जो विडंबना से उन तकनीकी नवाचारों को दबाने का जोखिम पैदा करता है जिन्हें वे देखना और नियंत्रित करना चाहते हैं।

इसी बीच, जॉर्जियो एआई और वेब3 दोनों क्षेत्रों में बढ़ी हुई नियमन के लिए जोरदार वकालत करते हैं। “मुझे लगता है कि दोनों को अधिक नियमों की आवश्यकता है,” उन्होंने कहा, यूरोप के “विनियमन में नवाचार” की धारणा को एक आवश्यक कदम मानते हुए स्वीकार किया।

क्रिप्टो पक्ष पर, जॉर्जियो ने ठगी और परियोजना निकास के मौजूदा मुद्दे की ओर इशारा किया जो अनजान निवेशकों का शोषण करते हैं। “यह स्पष्ट है कि बहुत से लोग अपनी खुद की रिसर्च नहीं करेंगे, और बहुत सी परियोजना निकास ठगी तरीकों से होती हैं,” उन्होंने अफसोस जताया। इसे रोकने के लिए, उन्होंने “केओएल [मुख्य विचारधारा वाले नेता], परियोजनाओं और निवेशकों के लिए अधिक जवाबदारी” की इच्छा व्यक्त की। हालांकि यह स्वीकार करते हुए कि सभी असफल परियोजनाएं ठगी नहीं होती हैं, उन्होंने सार्वजनिक सुरक्षा के लिए वर्तमान परिदृश्य बदलने की आवश्यकता को बनाए रखा।

एआई के बारे में जॉर्जियो की चिंताएं बड़े मॉडलों की बढ़ती क्षमताओं के साथ तेज होती जाती हैं। “बड़े मॉडल अधिक योजनाबद्ध प्रतीत होते हैं,” उन्होंने चेतावनी दी, एंथ्रोपिक से एक परेशान करने वाले उदाहरण का हवाला देते हुए जहां क्लाउड ने कथित तौर पर बंद होने की धमकी मिलने पर ब्लैकमेलिंग व्यवहार प्रदर्शित किया। “यह स्पष्ट है कि ये बड़े मॉडल खतरनाक होते जा रहे हैं क्योंकि यह ना ही एक बार की बात है,” उन्होंने चेतावनी दी।

उन्नत एआई व्यवहार के तात्कालिक जोखिमों से परे, जॉर्जियो ने बड़े पैमाने पर नौकरियों की हानि की खतरा की पुनरावृत्ति की। उन्होंने वर्तमान प्रक्षेपण की आलोचना की जिसमें कंपनियों को “अंधाधुंध ‘कैपेबिलिटीज बढ़ाने’ की बजाय उन्हें उद्देश्यपूर्वक बनाने” की अनुमति दी जा रही है, इसे “पागलपन” बताया। उनका अंतिम उद्देश्य, और जो उन्हें लगता है कि उद्योग को प्रयास करना चाहिए, वह “ऐसा सॉफ्टवेयर है जो सभी एआई के लाभ देता है, बिना सभी खतरे के।”

एआई एजेंटों को स्पष्ट भूमिकाएं चाहिए, न कि केवल चैटबॉट

इसी बीच, एक अनुभवी एआई इंफ्रास्ट्रक्चर आर्किटेक्ट के रूप में जॉर्जियो ने एआई एजेंट संचार प्रोटोकॉल के महत्वपूर्ण पहलू पर भी राय व्यक्त की, यह पहचानते हुए कि मामूली गड़बड़ियां भी अराजकता पैदा कर सकती हैं। जब उनसे संवाद बढ़ाने के सर्वोत्तम दृष्टिकोण के बारे में पूछा गया, खासकर गैर-तकनीकी रोजमर्रा के उपयोगकर्ताओं के लिए, जॉर्जियो का दर्शन सरल था: एजेंटों के लिए स्पष्ट रूप से परिभाषित जिम्मेदारियां।

“कम से कम हमारे लिए, हमारा नियम यह है कि एजेंटों की बहुत अच्छी तरह से परिभाषित जिम्मेदारियां होनी चाहिए,” जॉर्जियो ने कहा। “यदि आप कस्टमर सर्विस के लिए एक एजेंट का उपयोग कर रहे हैं, तो सुनिश्चित करें कि यह वास्तव में कस्टमर सर्विस में अच्छा है और इसे उसी पर केंद्रित रखें।” उन्होंने इस बात पर जोर दिया कि “जब आप एजेंटों को बहुत अधिक जिम्मेदारी देते हैं, तो तभी चीजें विफल होती हैं।”

यह फोकस्ड दृष्टिकोण न केवल एजेंट के प्रदर्शन को उसके निर्धारित भूमिका में बढ़ाता है बल्कि उपयोगकर्ता के लिए भी फायदेमंद साबित होता है। “यहां तक कि एक उपयोगकर्ता के दृष्टिकोण से, यदि आपके एजेंट स्पष्ट रूप से परिभाषित हैं, तो उपयोगकर्ताओं को ठीक-ठीक पता होता है कि उन्हें उपयोग करते समय किससे सामना करना पड़ेगा।” यह रणनीति बुद्धिमान सिस्टम्स के साथ सहज इंटरैक्शन के लिए पूर्वानुमेयता और विश्वास को बढ़ावा देती है।

जैसे-जैसे एआई दैनिक जीवन और उद्योग में और गहरी समाहित होती जाएगी, सुरक्षा, पूर्वानुमेयता, आर्थिक न्याय, विचारशील नियमन को लागू करना और एजेंटों को स्पष्ट, केंद्रित जिम्मेदारियों के साथ डिजाइन करना महत्वपूर्ण होगा न केवल प्रौद्योगिकी के नैतिक विकास के लिए बल्कि इसके टिकाऊ और सामाजिक रूप से जिम्मेदार एकीकरण के लिए भी।

एआई गोद लेने में तेजी लाने के महत्वपूर्ण मुद्दे पर, जॉर्जियो ने एक महत्वपूर्ण बदलाव का सुझाव दिया: एक साधारण “एआई चैट बॉक्स” की सीमाओं से परे जाना और समग्र उपयोगकर्ता अनुभव को मौलिक सुधारना। प्रचलित दृष्टिकोण की कमियों पर विस्तार से चर्चा करते हुए, जॉर्जियो ने कहा:

“अभी यह ज्यादातर एक चैट इंटरफेस के माध्यम से किया जाता है, जो कई कार्यों के लिए उपयुक्त है, लेकिन अधिकांश भाग के लिए आदर्श नहीं। समस्या है कि आप लोगों के सामने एक एआई चैट बॉक्स रखते हैं और कहते हैं, ‘आप इससे कुछ भी कर सकते हैं,’ और वे जवाब देते हैं, ‘बहुत अच्छा, लेकिन मुझे क्या करना चाहिए?'”

जॉर्जियो के अनुसार, कुछ कंपनियां, जिनमें कोरल भी शामिल हैं, एआई उपयोगकर्ता अनुभव में सुधार की चुनौती का सामना कर रही हैं। उन्होंने खुलासा किया कि एआई-डेवलपर/रखरखावकर्ता दृष्टिकोण से, कोरल “एब्स्ट्रैक्शन की सीढ़ी” की जांच कर रहा है ताकि यह तय किया जा सके कि किस चरण पर उपयोगकर्ताओं को एआई सिस्टम इंटरैक्शन के बारे में क्या जानकारी चाहिए, और किस कार्य के लिए कौन से इंटरफेस सबसे प्रभावी हैं।