मेटा ने व्यक्तिगत डिवाइसों पर स्थानीय एआई एजेंट्स के लिए म्यूज़ ग्लिमर लॉन्च किया।

म्यूज़ ग्लिमर सीधे उपभोक्ता हार्डवेयर पर एआई एजेंट्स को लाता है

कंपनी के उन्नत एआई अनुसंधान प्रभाग, मेटा सुपरइंटेलिजेंस लैब्स ने, 10 अगस्त को म्यूज़ ग्लिमर को एक ओपन-वेट एजेंटिक मॉडल के रूप में लॉन्च किया जो सीधे व्यक्तिगत उपकरणों पर चलने के लिए डिज़ाइन किया गया है, और इसके वेट्स को अनुमत अपाचे 2.0 लाइसेंस के तहत जारी किया है। ओपन वेट डेवलपर्स को एक मॉडल के अंतर्निहित पैरामीटर डाउनलोड करने की अनुमति देते हैं, जबकि एजेंटिक उन प्रणालियों को संदर्भित करता है जो सीमित मानवीय इनपुट वाले टूल का उपयोग करके बहु-चरणीय कार्यों को पूरा करती हैं। यह मॉडल मेटा के बड़े क्लोज्ड मॉडल, म्यूज़ स्पार्क से डिस्टिल किया गया है, और एक मैक या पीसी पर एकल उपभोक्ता ग्राफिक्स प्रोसेसिंग यूनिट, या जीपीयू पर चलता है।

कंपनी ने बताया:

"म्यूज़ ग्लिमर एक 30-अरब-पैरामीटर वाला मॉडल है जो हमेशा-चालू रहने वाले स्थानीय एजेंट वर्कफ़्लो के लिए अनुकूलित है।"

म्यूज़ ग्लिमर शुरू से अंत तक कार्य पूरे करता है, सॉफ़्टवेयर टूल का उपयोग करता है, कोड लिखता है, कई तर्कसंगत चरणों का पालन करता है और जब कोई प्रयास विफल हो जाता है तो उबर जाता है। मेटा के अनुसार, यह मॉडल टेक्स्ट और इमेज को प्रोसेस करता है, 100 से अधिक भाषाओं में फैले डेटा को संभालता है, और एजेंटिक, कोडिंग, मल्टीमोडल, सुरक्षा और रीजनिंग बेंचमार्क पर Gemma4-31B और Qwen3.6-27B के मुकाबले अपनी साइज़ क्लास के हिसाब से अच्छा प्रदर्शन करता है।

एआई एजेंट पारंपरिक चैटबॉट्स से अपनी कार्यों को निष्पादित करने, बाहरी उपकरणों का उपयोग करने और विभिन्न स्तरों की स्वायत्तता के साथ विस्तारित वर्कफ़्लो में निर्णय लेने की क्षमता के कारण भिन्न होते हैं।

मेटा ने 30-अरब-पैरामीटर मॉडल को 20 जीबी से नीचे संकुचित किया

म्यूज़ ग्लिमर के आकार के मॉडल को उपभोक्ता हार्डवेयर पर चलाने के लिए मेटा को एआई एजेंटों द्वारा संभाले जाने वाले कार्यों में प्रदर्शन को बनाए रखते हुए मेमोरी की मांग को कम करना पड़ा। पूर्ण सटीकता पर 30-अरब-पैरामीटर वाला मॉडल 55 जीबी से अधिक हो जाएगा, लेकिन 4-बिट क्वांटાઇज़ेशन, जो मॉडल डेटा को एक अधिक संक्षिप्त संख्यात्मक प्रारूप में संग्रहीत करता है, ने भाषा मॉडल को 20 जीबी से नीचे कर दिया और इसके घटकों को 24 जीबी या 32 जीबी के दायरे में फिट कर दिया।

म्यूज़ ग्लिमर के साथ आने वाला एक छोटा सह-मॉडल आने वाले टेक्स्ट का अनुमान लगाता है, जिससे मुख्य मॉडल एक साथ कई भविष्यवाणियों को सत्यापित कर सकता है और तेज़ी से प्रतिक्रिया दे सकता है। स्पेक्युलेटिव डीकोडिंग के नाम से जानी जाने वाली इस तकनीक ने कंपनी के परीक्षण में RTX 5090 पर जनरेशन की गति को 3.1 गुना, M5 मैक्स पर 1.8 गुना और M4 मैक्स पर 1.5 गुना बढ़ा दिया।

स्थानीय एजेंटों की ओर यह बढ़ोतरी मेटा द्वारा खर्च बढ़ाने और स्वायत्त एआई उत्पादों और तेज़ विकास चक्रों के इर्द-गिर्द टीमों का पुनर्गठन करने के साथ हो रही है। 2026 के लिए पूंजीगत व्यय के 130 अरब डॉलर से 145 अरब डॉलर तक पहुंचने की उम्मीद है, यह सीमा 29 जुलाई को कंपनी द्वारा दूसरी तिमाही के परिणामों की रिपोर्टिंग के समय 125 अरब डॉलर से 145 अरब डॉलर से और संकीर्ण हुई है।

मई में लगभग 7,000 कर्मचारी चार एआई-केंद्रित संगठनों में स्थानांतरित हुए, जिनमें एप्लाइड एआई इंजीनियरिंग और एक एजेंट ट्रांसफॉर्मेशन एक्सेलेरेटर टीम शामिल है, जबकि लगभग 8,000 कर्मचारियों की छंटनी की गई और 6,000 रिक्त पदों को बंद कर दिया गया। मेटा ने बाद में स्थानांतरित कर्मचारियों को बताया कि वे यह तय कर सकते हैं कि उन्हें रहना है या नहीं।

स्थानीय प्रसंस्करण निरंतर क्लाउड एक्सेस पर निर्भरता को कम करता है

एजेंट वर्कफ़्लो को व्यक्तिगत हार्डवेयर पर रखने से हर अनुरोध को दूरस्थ डेटा सेंटर के माध्यम से भेजने की आवश्यकता नहीं पड़ती, जिससे कनेक्टिविटी सीमित या अनुपलब्ध होने पर भी कार्य जारी रह सकते हैं। स्थानीय निष्पादन संग्रहीत संदर्भ जैसे शेड्यूल, संदेश और फ़ाइलों पर आधारित उपयोग के मामलों के लिए भी उपयुक्त है, जहाँ मॉडल विस्तारित सत्रों के दौरान व्यक्तिगत डेटा पर कार्य करता है।

सुरक्षा मानक तेजी से प्रासंगिक होते जा रहे हैं क्योंकि स्वायत्त सॉफ्टवेयर को खातों, एप्लिकेशनों और संवेदनशील जानकारी के साथ बातचीत करने की अनुमति मिल रही है। नेशनल इंस्टीट्यूट ऑफ स्टैंडर्ड्स एंड टेक्नोलॉजी ने एक एआई एजेंट मानक पहल शुरू की है, जिसमें एजेंटों के बीच सुरक्षित संचार, विश्वसनीय डिजिटल पहचान, एक्सेस नियंत्रण और सामान्य तकनीकी मानक शामिल हैं।

मेटा ने जोर देकर कहा:

"मॉडलों को स्थानीय रूप से चलाने से आप इंटरनेट कनेक्शन के साथ या उसके बिना, कहीं भी, कभी भी एआई का उपयोग कर सकते हैं।"

स्थानीय मॉडलों से परे, मेटा स्वतंत्र सॉफ्टवेयर एजेंटों के बीच इंटरैक्शन के इर्द-गिर्द बने प्लेटफॉर्म में कदम रख चुका है। कंपनी ने मार्च में मोल्टबुक का अधिग्रहण किया, जो एक एआई-एजेंट सोशल नेटवर्क है, जिसके पास जून तक लगभग 2.9 मिलियन पंजीकृत खातों में से 206,000 से अधिक मानव-सत्यापित एजेंट हैं, और अपने सह-संस्थापकों को मेटा सुपरइंटेलिजेंस लैब्स में शामिल किया।

म्यूज़ ग्लिमर, व्यापक रूप से उपलब्ध एआई के लिए मेटा के व्यापक प्रयास के अनुरूप है।

Meta के मुख्य कार्यकारी मार्क ज़करबर्ग ने 10 अगस्त को व्यक्तिगत सुपरइंटेलिजेंस को व्यापक रूप से वितरित करने और अरबों लोगों को मुफ्त संस्करण प्रदान करने के लिए एक अलग रणनीति की रूपरेखा प्रस्तुत की। ज़करबर्ग ने उसी दिन साझा किए गए एक इंस्टाग्राम वीडियो में कहा कि मेटा म्यूज़ स्पार्क 1.2 के वेट भी ओपन सोर्स करेगा, और इस कदम को 6,500 शब्दों के एक निबंध में चीनी डेवलपर्स द्वारा ओपन-वेट रिलीज़ के जवाब के रूप में पेश किया।

अधिक सक्षम मॉडलों को समर्थन देने के लिए अभी भी प्रशिक्षण हेतु व्यापक केंद्रीकृत कंप्यूटिंग की आवश्यकता होती है, भले ही तैयार मॉडल उपयोगकर्ता के अपने डिवाइस पर चलता हो। मेटा ने नेबियस के साथ 27 अरब डॉलर तक के एक पांच साल के समझौते पर हस्ताक्षर किए, जिसमें 12 अरब डॉलर की समर्पित क्षमता और 15 अरब डॉलर के अन्य विकल्प शामिल हैं।

डेवलपर्स अब म्यूज़ ग्लिमर के वेट डाउनलोड कर सकते हैं, जबकि llama.cpp, MLX और ExecuTorch (अलग-अलग हार्डवेयर पर AI मॉडल को कुशलतापूर्वक चलाने के लिए उपयोग किए जाने वाले सॉफ्टवेयर) के लिए अनुकूलित समर्थन आने वाले दिनों में आने की उम्मीद है। मेटा डिवाइसों पर प्रदर्शन को अनुकूलित करने के लिए AMD, Arm, Dell, Intel और Nvidia के साथ भी काम कर रहा है।