গুগল ৯,২১৬-চিপ পড এবং তরল কুলিংসহ আয়রনউড টিপিইউ চালু করেছে।

গুগলের আয়রনউড TPU এনভিডিয়ার অঞ্চলকে লক্ষ্য করছে পোড-স্কেল FP8 ক্ষমতায়

গুগল এপ্রিল মাসে Google Cloud Next ’25 এ আয়রনউডের পূর্বরূপ দেখিয়েছিল এবং এখন অ্যাক্সেস বাড়াচ্ছে, চিপটিকে কাস্টম সিলিকন হিসেবে অবস্থান করছে যা “ইফারেন্স যুগের” জন্য ঠিক করা হয়েছে, যখন মডেলগুলি প্রত্যাশিত হয় যে তাৎক্ষণিকভাবে প্রতিক্রিয়া, যুক্তি দেওয়া এবং বিশ্বব্যাপী ক্লাউড অঞ্চলে জেনারেট করতে।

CNBC রিপোর্টের মতে, এই পদক্ষেপটি স্পষ্টভাবে একটি বৃহত্তর শক্তি খেলার অংশ, যেখানে হাইপারস্কেলীরা ডেটা সেন্টার থেকে ডেভ টুলকিট পর্যন্ত AI স্ট্যাককে নিজেদের অধিকারে নেয়ার জন্য প্রতিযোগিতা করছে। ভিতরের দিকে, আয়রনউড 3D টোরাস ইন্টারকানেক্ট, টেকসই লোডের জন্য তরল কুলিং এবং একটি উন্নত স্পার্সকোর উপর নির্ভর করে যা অতি-বৃহৎ এম্বেডিংগুলিকে র‍্যাঙ্কিং, সুপারিশ, অর্থনীতি এবং বৈজ্ঞানিক গণনার জন্য গতি দেয়।

এটি প্রকৌশলী করা হয়েছে যাতে ডেটা স্থানান্তর এবং যোগাযোগে বাধাগুলি কমানো যায়—যা প্রায়শই বহু-চিপের কাজে থ্রুপুটকে সীমাবদ্ধ করে। কাঁচা সংখ্যাগুলি মাথা ঘুরিয়ে দেয়ার জন্য ডিজাইন করা হয়েছে: প্রতি চিপে 4,614 TFLOPs (FP8), 192 GB এর HBMসহ 7.37 TB/s ব্যান্ডউইথ, এবং 1.2 TB/s দ্বি-মুখী ইন্টার-চিপ ব্যান্ডউইথ। পোডগুলো 256 চিপ থেকে 9,216-চিপ কনফিগারেশনের স্কেল করে, যা 42.5 এক্সাফ্লপস (FP8) কম্পিউট প্রদান করে, পূর্ণ-পোড শক্তি প্রায় 10 MW এবং তরল কুলিং উল্লেখযোগ্যভাবে উচ্চতর দীর্ঘস্থায়ী কর্মক্ষমতা প্রদান করে যা বায়ু থেকে বেশি।

গুগল বলছে আয়রনউড পূর্ববর্তী টিলিয়াম (TPU v6) এর চেয়ে 4× দ্রুততর এবং প্রতি ওয়াটে প্রায় 2× ভালো পারফরম্যান্স অফার করে—পাশাপাশি ২০১৮ সালের প্রথম Cloud TPU এর প্রায় ৩০× শক্তি দক্ষতা। সর্বোচ্চ ক্ষমতায়, কোম্পানি FP8 এক্সাফ্লপসে মাপা যাবে এ ধরণের কিছু সুপারকম্পিউটারের চেয়ে একটি প্রাকলনীয় প্রান্তের দাবি করে। পদ্ধতিতত্ত্ব সর্বদা গুরুত্বপূর্ণ, তবে উদ্দেশ্য স্পষ্ট।

যদিও এটি প্রশিক্ষণ দিতে পারে, আয়রনউডের প্রস্তাবনা বড় ভাষা মডেল ও মিক্সচার-অফ-এক্সপার্টস সিস্টেমের ইফারেন্সের উপর কেন্দ্রিত—এগুলি বর্তমানে উত্তর আমেরিকা থেকে ইউরোপ এবং এশিয়া-প্রশান্তে তথ্য কেন্দ্রগুলিতে প্রবাহিত উচ্চ-QPS, নিম্ন-প্রতিলিপি কাজ। চিন্তা করুন চ্যাটবটগুলি, এজেন্টগুলি, জেমিনি-ক্লাস মডেল এবং উচ্চ-মাত্রার অনুসন্ধান এবং রিক্সিস পাইপলাইনগুলির যা দ্রুত মেমোরি এবং শক্ত পোড-স্কেল সিঙ্কের প্রয়োজন।

অন্তর্ভুক্তি গুগল ক্লাউডের AI হাইপারকম্পিউটারের মাধ্যমে আসে—হার্ডওয়্যার এবং সফটওয়্যার যেমন Pathways এর সাথে জোড়া লাগানো যাতে হাজার হাজার চিপের মধ্যে বিতরণ করা কম্পিউট কার্যক্রমকে সমন্বিত করা যায়। এই স্ট্যাকটি ইতিমধ্যে ব্যবহারকারী এবং এন্টারপ্রাইজ পরিষেবাগুলিকে সামর্থ্য দেয় যেমন সার্চ থেকে জিমেইল, এবং আয়রনউড একটি উন্নত পাথ অফার হিসেবে অবস্থান করছে এমন গ্রাহকদের জন্য যা GPU-র পাশাপাশি একটি ম্যানেজড, TPU-মূল পথ চাই।

এর মধ্যে একটি বাজারের বার্তা রয়েছে: গুগল এনভিডিয়ার আধিপত্যকে চ্যালেঞ্জ করছে এই বলে যে ডোমেন-নির্দিষ্ট TPUগুলি নির্দিষ্ট AI কাজগুলির জন্য সাধারণ উদ্দেশ্যের GPU-গুলির তুলনায় মূল্য-প্রদর্শন এবং শক্তি ব্যবহারে জয়ী হতে পারে। CNBC-এর রিপোর্টে বলা হচ্ছে যে প্রাথমিক গ্রহণকারীদের মধ্যে রয়েছে Anthropic, যা ক্লোদে জন্য মিলিয়ন-TPU স্কেলে স্থাপন প্ল্যান করছে—একটি শুভেচ্ছামূলক সংকেত যে ইফারেন্স পদচিহ্নগুলো কত বড় হয়ে উঠছে।

আলফাবেট সিইও সুন্দর পিচাই চাহিদাকে একটি প্রধান রাজস্ব চালক হিসাবে বর্ণনা করেছেন, তৃতীয় ত্রৈমাসিকে গুগল ক্লাউড রাজস্বে ৩৪% বৃদ্ধি এবং AI বিল্ডআউটে যুক্ত মূলধন খরচ যা $৯৩ বিলিয়ন। “আমরা আমাদের AI অবকাঠামো পণ্যগুলির জন্য উল্লেখযোগ্য চাহিদা দেখতে পাচ্ছি… এবং আমরা তা পূরণের জন্য বিনিয়োগ করছি,” তিনি বলেছেন, উল্লেখ করেছেন যে এই বছর আগের দুটি বছরের চেয়ে বেশি বিলিয়ন-ডলারের চুক্তি স্বাক্ষরিত হয়েছে।

আয়রনউডের ব্যাপকতর উপলব্ধতা ২০২৫ সালের শেষে গুগল ক্লাউড এর মাধ্যমে আসার পরিকল্পনা রয়েছে, এবং অ্যাক্সেস অনুরোধ এখন খোলা আছে। যুক্তরাষ্ট্র, ইউরোপ, এবং এশিয়া-প্রশান্তে এন্টারপ্রাইজগুলো জনমত সময়কাল, র‌্যাক ঘনত্ব, এবং অপেক্ষাকালের লক্ষ্য তোলামূল্য দেওয়ার সময় নির্ধারণ করতে যা করছে যে আয়রনউডের পোড-স্কেল FP8 গণনা এবং কুলিং প্রফাইল তাদের উৎপাদন ওয়ার্কলোডের সাথে সামঞ্জস্যপূর্ণ কিনা।

FAQ ❓

• আয়রনউড কোথায় উপলব্ধ হবে? গুগল ক্লাউডের মাধ্যমে বিশ্বব্যাপী অঞ্চলগুলোতে, যার মধ্যে উত্তর আমেরিকা, ইউরোপ, এবং এশিয়া-প্রশান্ত এসেছে।
• কখন অ্যাক্সেস শুরু হয়? আসন্ন সপ্তাহগুলোতে বৃহত্তর উপলব্ধতা শুরু হতে চলেছে, এবং ২০২৫ সালের পরে ব্যাপক রোলআউট।
• কোন ওয়ার্কলোডের জন্য এটি নির্মিত? উচ্চ-থ্রুপুট ইফারেন্সের জন্য LLMs, MoEs, অনুসন্ধান, সুপারিশ, অর্থনীতি, এবং বৈজ্ঞানিক কম্পিউটিং।
• এটি আগের TPU-গুলির সাথে কিভাবে তুলনা করা যায়? গুগল উল্লেখ করেছে যে এটি ট্রিলিয়াম চেয়ে ৪× উচ্চতর থ্রুপুট এবং প্রতি ওয়াটে ২× ভালো পারফরম্যান্স সরবরাহ করে।