দ্বারা চালিত
Featured

ব্যক্তিগত ডিভাইসে লোকাল এআই এজেন্টের জন্য মেটা মিউজ গ্লিমার চালু করেছে

মেটা Muse Glimmer উন্মোচন করেছে, একটি এআই মডেল যা সম্পূর্ণভাবে ক্লাউড সার্ভারের ওপর নির্ভর না করে ব্যক্তিগত কম্পিউটারে চালানো যায়। এটি ব্যবহারকারীদের ফাইল ম্যানেজ করতে, কোড লিখতে এবং ইন্টারনেট সংযোগ না থাকলেও বহু-ধাপের কাজ সম্পন্ন করতে সাহায্য করতে পারে।

লেখক
শেয়ার
ব্যক্তিগত ডিভাইসে লোকাল এআই এজেন্টের জন্য মেটা মিউজ গ্লিমার চালু করেছে

মূল বিষয়গুলো

  • Muse Glimmer হলো স্থানীয় এআই এজেন্টের জন্য তৈরি ৩০-বিলিয়ন-প্যারামিটার মডেল।
  • মেটা Apache 2.0 লাইসেন্সের অধীনে Muse Glimmer-এর মডেল ওয়েটস প্রকাশ করেছে।
  • একটি ভোক্তা-শ্রেণির একক GPU-সহ Mac বা PC-তে মডেলটি চালানো যায়।

Muse Glimmer ভোক্তা হার্ডওয়্যারেই সরাসরি এআই এজেন্ট নিয়ে আসে

Meta Superintelligence Labs, কোম্পানির উন্নত এআই গবেষণা বিভাগ, ১০ আগস্ট Muse Glimmer-কে একটি ওপেন-ওয়েট এজেন্টিক মডেল হিসেবে উন্মোচন করেছে যা ব্যক্তিগত ডিভাইসে সরাসরি চলার জন্য নকশা করা, এবং অনুমোদন-সহনশীল Apache 2.0 লাইসেন্সের অধীনে এর ওয়েটস প্রকাশ করেছে। ওপেন ওয়েটস ডেভেলপারদের একটি মডেলের অন্তর্নিহিত প্যারামিটার ডাউনলোড করতে দেয়, আর “এজেন্টিক” বলতে এমন সিস্টেম বোঝায় যা সীমিত মানব ইনপুটে টুল ব্যবহার করে বহু-ধাপের কাজ সম্পন্ন করে। মডেলটি Muse Spark থেকে ডিস্টিল করা, যা মেটার বড় ক্লোজড মডেল, এবং একটি ভোক্তা-শ্রেণির একক গ্রাফিক্স প্রসেসিং ইউনিট (GPU) দিয়ে Mac বা PC-তে চলে।

কোম্পানি বর্ণনা করেছে:

“Muse Glimmer হলো ৩০-বিলিয়ন-প্যারামিটার মডেল, যা সবসময়-চালু (always-on) লোকাল এজেন্ট ওয়ার্কফ্লোর জন্য অপ্টিমাইজ করা।”

Muse Glimmer শুরু থেকে শেষ পর্যন্ত কাজ সম্পন্ন করে, সফটওয়্যার টুল ব্যবহার করে, কোড লেখে, একাধিক যুক্তি-ধাপ অনুসরণ করে এবং কোনো চেষ্টা করা অ্যাকশন ব্যর্থ হলে পুনরুদ্ধার করে। মডেলটি টেক্সট ও ছবি প্রক্রিয়াজাত করে, ১০০টিরও বেশি ভাষাজুড়ে ডেটা সামলায়, এবং মেটা অনুযায়ী এজেন্টিক, কোডিং, মাল্টিমোডাল, সেফটি ও রিজনিং বেঞ্চমার্কে Gemma4-31B এবং Qwen3.6-27B-এর বিরুদ্ধে নিজের সাইজ ক্লাসে শক্তিশালী পারফরম্যান্স দেখিয়েছে।

এআই এজেন্টগুলো প্রচলিত চ্যাটবট থেকে আলাদা তাদের কাজ সম্পাদনের ক্ষমতা, বাহ্যিক টুল ব্যবহার এবং ভিন্ন মাত্রার স্বায়ত্তশাসন নিয়ে দীর্ঘ ওয়ার্কফ্লো জুড়ে সিদ্ধান্ত নেওয়ার সক্ষমতার মাধ্যমে।

মেটা ৩০-বিলিয়ন-প্যারামিটার মডেলকে ২০ GB-এর নিচে কমপ্রেস করেছে

ভোক্তা হার্ডওয়্যারে Muse Glimmer-এর আকারের মডেল চালাতে মেটাকে এআই এজেন্ট দ্বারা পরিচালিত কাজগুলোর পারফরম্যান্স বজায় রেখে মেমরি চাহিদা কমাতে হয়েছে। ফুল প্রিসিশনে ৩০-বিলিয়ন-প্যারামিটার মডেল ৫৫ GB-এর বেশি হয়ে যেত, কিন্তু ৪-বিট কোয়ান্টাইজেশন—যা মডেল ডেটা আরও কম্প্যাক্ট সংখ্যাগত ফরম্যাটে সংরক্ষণ করে—ল্যাঙ্গুয়েজ মডেলটিকে ২০ GB-এর নিচে নামিয়েছে এবং ২৪ GB বা ৩২ GB সীমার মধ্যে এর কম্পোনেন্টগুলো ফিট করিয়েছে।

Muse Glimmer-এর সঙ্গে থাকা একটি ছোট সহকারী মডেল আসন্ন টেক্সটের অংশগুলো পূর্বাভাস দেয়, ফলে মূল মডেলটি একসাথে একাধিক পূর্বাভাস যাচাই করতে পারে এবং দ্রুত প্রতিক্রিয়া দিতে পারে। “স্পেকুলেটিভ ডিকোডিং” নামে পরিচিত এই কৌশল কোম্পানির পরীক্ষায় RTX 5090-এ ৩.১ গুণ, M5 Max-এ ১.৮ গুণ এবং M4 Max-এ ১.৫ গুণ জেনারেশন গতি বাড়িয়েছে।

লোকাল এজেন্টের দিকে এই অগ্রযাত্রা এসেছে এমন এক সময়ে, যখন মেটা ব্যয় বাড়াচ্ছে এবং স্বয়ংক্রিয় এআই প্রোডাক্ট ও দ্রুত ডেভেলপমেন্ট সাইকেলকে কেন্দ্র করে টিমগুলো পুনর্গঠন করছে। ২০২৬ সালের মূলধনী ব্যয় $130 বিলিয়ন থেকে $145 বিলিয়নে পৌঁছাবে বলে প্রত্যাশা, যা কোম্পানি ২৯ জুলাই দ্বিতীয়-ত্রৈমাসিক ফলাফল জানালে $125 বিলিয়ন থেকে $145 বিলিয়ন থেকে সংকুচিত করে নির্ধারণ করা হয়।

মে মাসে প্রায় ৭,০০০ কর্মীকে চারটি এআই-কেন্দ্রিক সংগঠনে স্থানান্তর করা হয়, যার মধ্যে Applied AI Engineering এবং একটি Agent Transformation Accelerator টিম অন্তর্ভুক্ত, পাশাপাশি প্রায় ৮,০০০ কর্মীকে ছাঁটাই করা হয় এবং ৬,০০০টি খালি পদ বন্ধ করা হয়। পরে মেটা স্থানান্তরিত কর্মীদের জানায়, তারা থাকবেন কি না তা তারা সিদ্ধান্ত নিতে পারেন।

লোকাল প্রসেসিং ধারাবাহিক ক্লাউড অ্যাক্সেসের ওপর নির্ভরতা কমায়

ব্যক্তিগত হার্ডওয়্যারে এজেন্ট ওয়ার্কফ্লো রাখলে প্রতিটি অনুরোধকে দূরবর্তী ডেটা সেন্টারের মাধ্যমে রাউট করতে হয় না, ফলে সংযোগ সীমিত বা অনুপলব্ধ থাকলেও কাজ চলতে পারে। লোকাল এক্সিকিউশন সংরক্ষিত কনটেক্সট—যেমন সময়সূচি, বার্তা এবং ফাইল—ভিত্তিক ব্যবহারক্ষেত্রের জন্যও উপযোগী, যেখানে মডেলটি দীর্ঘ সেশনে ব্যক্তিগত ডেটার ওপর কাজ করে।

স্বায়ত্তশাসিত সফটওয়্যারকে যখন অ্যাকাউন্ট, অ্যাপ্লিকেশন এবং সংবেদনশীল তথ্যের সঙ্গে ইন্টারঅ্যাক্ট করার অনুমতি দেওয়া হয়, তখন নিরাপত্তা মানদণ্ড ক্রমেই আরও প্রাসঙ্গিক হয়ে উঠছে। ন্যাশনাল ইনস্টিটিউট অব স্ট্যান্ডার্ডস অ্যান্ড টেকনোলজি একটি AI Agent Standards Initiative চালু করেছে যা এজেন্টগুলোর মধ্যে নিরাপদ যোগাযোগ, নির্ভরযোগ্য ডিজিটাল পরিচয়, অ্যাক্সেস কন্ট্রোল এবং সাধারণ প্রযুক্তিগত মানদণ্ড কভার করে।

মেটা জোর দিয়েছে:

“মডেলগুলো লোকালি চালালে আপনি যেকোনো জায়গায়, যেকোনো সময়—ইন্টারনেট সংযোগ থাকুক বা না থাকুক—এআই ব্যবহার করতে পারবেন।”

লোকাল মডেলের বাইরে, মেটা স্বাধীন সফটওয়্যার এজেন্টগুলোর পারস্পরিক ইন্টারঅ্যাকশনকে কেন্দ্র করে গড়ে ওঠা প্ল্যাটফর্মেও এগিয়েছে। কোম্পানি মার্চে Moltbook অধিগ্রহণ করেছে, একটি এআই-এজেন্ট সোশ্যাল নেটওয়ার্ক, যেখানে জুন পর্যন্ত প্রায় ২.৯ মিলিয়ন নিবন্ধিত অ্যাকাউন্টের মধ্যে ২০৬,০০০-এর বেশি মানব-যাচাইকৃত এজেন্ট ছিল, এবং এর সহ-প্রতিষ্ঠাতাদের Meta Superintelligence Labs-এ নিয়ে এসেছে।

Muse Glimmer সবার জন্য সহজলভ্য এআই নিয়ে মেটার বৃহত্তর উদ্যোগের সঙ্গে মানানসই

মার্ক জাকারবার্গ, মেটার প্রধান নির্বাহী, আলাদাভাবে ১০ আগস্ট একটি কৌশল তুলে ধরেছেন যাতে ব্যক্তিগত সুপারইন্টেলিজেন্সকে ব্যাপকভাবে বিতরণ করা যায় এবং বিলিয়ন মানুষের জন্য বিনামূল্যের সংস্করণ দেওয়া যায়। জাকারবার্গ একই দিন শেয়ার করা একটি ইনস্টাগ্রাম ভিডিওতে বলেছেন যে মেটা Muse Spark 1.2-এর ওয়েটসও ওপেন করবে, এবং ৬,৫০০ শব্দের একটি প্রবন্ধে এই পদক্ষেপকে চীনা ডেভেলপারদের ওপেন-ওয়েট রিলিজের জবাব হিসেবে তুলে ধরেছেন।

যদিও চূড়ান্ত মডেলটি ব্যবহারকারীর নিজের ডিভাইসে চলে, তবুও ক্রমশ আরও সক্ষম মডেল সমর্থন করতে প্রশিক্ষণের জন্য ব্যাপক কেন্দ্রীভূত কম্পিউটিং দরকার হয়। মেটা Nebius-এর সঙ্গে পাঁচ বছরের একটি চুক্তি করেছে যার মূল্য সর্বোচ্চ $27 বিলিয়ন, এতে $12 বিলিয়নের ডেডিকেটেড ক্যাপাসিটি এবং আরও $15 বিলিয়নের অপশন অন্তর্ভুক্ত।

ডেভেলপাররা এখনই Muse Glimmer-এর ওয়েটস ডাউনলোড করতে পারেন, আর llama.cpp, MLX এবং ExecuTorch-এর জন্য অপ্টিমাইজড সাপোর্ট—যে সফটওয়্যারগুলো বিভিন্ন হার্ডওয়্যারে দক্ষভাবে এআই মডেল চালাতে ব্যবহৃত হয়—আগামী কয়েক দিনের মধ্যে আসবে বলে প্রত্যাশা করা হচ্ছে। মেটা AMD, Arm, Dell, Intel এবং Nvidia-এর সঙ্গেও কাজ করছে বিভিন্ন ডিভাইস জুড়ে পারফরম্যান্স অপ্টিমাইজ করতে।

এই নিবন্ধটি AI ব্যবহার করে ইংরেজি থেকে অনুবাদ করা হয়েছে। মূল ইংরেজি সংস্করণটি নির্ভরযোগ্য উৎস; স্বয়ংক্রিয় অনুবাদে ভুল থাকতে পারে, বিশেষ করে আইনি ও নিয়ন্ত্রক পরিভাষায়।

এই গল্পের ট্যাগ