বাস্তব এআই সুরক্ষা-ঝুঁকি গতি নয়—এটা কেন্দ্রীভূত নিয়ন্ত্রণ

বেপরোয়া কোড প্রযুক্তি কোম্পানিগুলোকে ‘সিনথেটিক ইন্টারনেট’-এ ঠেলে দিচ্ছে

অ্যানথ্রপিকের সিইও দারিও আমোদেই এআই উন্নয়ন ধীর করার আহ্বান জানিয়ে একটি চিঠি প্রকাশ করার কয়েক দিন পর, নিউ ইয়র্ক সিটির সাবেক মেয়র প্রার্থী অ্যান্ড্রু ইয়াং সতর্ক করেছেন যে পরিস্থিতি সামাল দেওয়ার জন্য হয়তো একটু দেরি হয়ে গেছে, কারণ বেপরোয়া এজেন্টরা ইতোমধ্যেই স্বয়ং-প্রতিলিপিকারী কোড দিয়ে ইন্টারনেট দূষিত করেছে।

CNBC-এর সঙ্গে কথা বলতে গিয়ে ইয়াং একটি অজ্ঞাতনামা এআই ল্যাব নির্বাহীর কাছ থেকে পাওয়া তথ্য শেয়ার করেন: বেপরোয়া কোড বড় প্রযুক্তি কোম্পানিগুলোকে তাদের মডেল প্রশিক্ষণের জন্য “সিনথেটিক ইন্টারনেট” তৈরি করতে বাধ্য করেছে। ইয়াং যুক্তি দেন, এই ব্যয়বহুল ধাক্কাই আমোদেই, স্যাম অল্টম্যান এবং ইলন মাস্কের মতো শিল্পনেতাদের খাতটি নিয়ন্ত্রণ করা এবং ফ্রন্টিয়ার এআই উন্নয়নের গতি নিয়ন্ত্রণের আহ্বানকে যৌক্তিক করে তোলে।

ইয়াং-এর সতর্কবার্তার আগে, একাধিক এআই নীতিবিষয়ক ব্যক্তিত্ব ও ট্রাম্প প্রশাসনের কর্মকর্তারা ধীরগতির আহ্বান প্রতিরোধ করেছিলেন, সতর্ক করে দিয়েছিলেন যে এতে বিশ্বব্যাপী এআই প্রতিযোগিতায় চীন এগিয়ে যেতে পারে। ডোনাল্ড ট্রাম্প আরও সরাসরি ছিলেন—এআই-চালিত মানব বিলুপ্তির আশঙ্কাকে তিনি প্রতারণা বলে আখ্যা দেন। ডেভিড স্যাক্সের মতো অন্যান্য সমালোচকেরা যুক্তি দেন, উদ্বিগ্ন প্রযুক্তি নির্বাহীদের ফেডারেল নিয়ন্ত্রণ বা ব্যাপক স্থগিতাদেশের জন্য লবিং করার বদলে নিজেদের উদ্যোগে টেস্টিং বিরতি আরোপ করা উচিত।

আলোচনাটি যখন ক্রমেই নিয়ন্ত্রণপন্থী ও নিয়ন্ত্রণবিরোধী শিবিরের মধ্যে দলীয় বিভাজনে পরিণত হচ্ছে, তখন উভয় পক্ষের প্রধান ব্যক্তিত্বরা জোরপূর্বক ধীরগতির আহ্বানকে সমর্থন বা খণ্ডন করার মতো খুব কম বাস্তবভিত্তিক তথ্যই উপস্থাপন করেছেন। তবুও, ইয়াং-এর সাম্প্রতিক প্রকাশ—যাকে তিনি ব্রেকিং নিউজ হিসেবে উপস্থাপন করেছেন—বিতর্কে জরুরি মাত্রা যোগ করছে এবং তাৎক্ষণিক সুরক্ষাব্যবস্থার পক্ষে থাকা পক্ষগুলোর জন্য জোরালো প্রমাণ জোগাচ্ছে।

গবেষণায় দেখা যাচ্ছে, এআই এজেন্টরা মূল্যায়ন বেঞ্চমার্ককে কাজে লাগাচ্ছে

এদিকে, সেন্টিয়েন্ট ল্যাবস—একটি ফ্রন্টিয়ার ওপেন-সোর্স এআই গবেষণা সংস্থা—বলছে, তাদের পরিচালিত সাম্প্রতিক একটি গবেষণা আমোদেই-এর এই যুক্তিকে সমর্থন করে যে এজেন্ট সক্ষমতা ঝুঁকি ব্যবস্থাপনার সক্ষমতাকে ছাড়িয়ে যাচ্ছে। Bitcoin.com News-এর প্রশ্নের লিখিত উত্তরে সেন্টিয়েন্ট ল্যাবসের স্ট্র্যাটেজি ও গ্রোথ প্রধান অভিষেক সাক্সেনা বলেন, কোম্পানির Evoskill v2 গবেষণা এই যুক্তির পক্ষে “কংক্রিট প্রমাণ” দেয়।

সাক্সেনা বলেন, কোম্পানির গবেষণা দল প্রতিযোগিতামূলক মূল্যায়ন পরিবেশে এআই এজেন্টরা কীভাবে আচরণ করে তা অধ্যয়ন করছে—বিশেষ করে, যখন এজেন্টদের বেঞ্চমার্ক ও অ্যাসেসমেন্টে ভালো পারফর্ম করার জন্য অপ্টিমাইজ করা হয় তখন কী ঘটে।

“আমরা যা দেখেছি তা হলো, এজেন্টরা প্রত্যাশিত কাজ সমাধান করার বদলে মূল্যায়ন ব্যবস্থার কাঠামোকে কাজে লাগিয়ে অপ্রত্যাশিত কৌশল আবিষ্কার করে। তারা পারফরম্যান্স মাপার পদ্ধতিতে ফাঁক খুঁজে পায় এবং অন্তর্নিহিত লক্ষ্য নয়, বরং মেট্রিক্সের জন্য অপ্টিমাইজ করতে শেখে,” সাক্সেনা ব্যাখ্যা করেন।

নিরাপত্তার দৃষ্টিকোণ থেকে এটি গুরুত্বপূর্ণ, কারণ এটি দেখায় যে এআই সিস্টেম যত বেশি সক্ষম ও স্বয়ংসম্পূর্ণ হয়, তাদের মূল্যায়নের অবকাঠামোকেও অন্তত মূল্যায়িত সিস্টেমগুলোর মতোই পরিশীলিত হতে হবে। এটি মোকাবিলায়, সাক্সেনার ভাষায় এমন গতিশীল, প্রতিদ্বন্দ্বিতামূলক মূল্যায়ন পদ্ধতির প্রয়োজন যা মাপা সিস্টেমগুলোর সঙ্গে সঙ্গে বিবর্তিত হয়।

তবে, সাক্সেনা জোর দিয়ে বলেন—এআই সিস্টেম কীভাবে মূল্যায়ন ও পর্যবেক্ষণ করা হয় তাতে কোনো পরিবর্তন না এনে কেবল ধীরগতিতে যাওয়া খুব সামান্যই অর্জন করে।

“ভালো পথ হলো স্বাধীন মূল্যায়ন, রেড-টিমিং এবং আচরণগত পর্যবেক্ষণে জোরালোভাবে বিনিয়োগ করা—যাতে এই সিস্টেমগুলো যাঁরা ডিপ্লয় করেন এবং যাঁরা এর প্রভাবে পড়েন, উভয়েরই কাছে তারা আসলে কী নিয়ে কাজ করছেন সে সম্পর্কে নির্ভরযোগ্য তথ্য থাকে,” সেন্টিয়েন্ট ল্যাবসের ওই নির্বাহী বলেন।

আরও বড় ঝুঁকি: ক্ষমতার কেন্দ্রীভবন এবং কেন্দ্রীভূত নিরাপত্তা দাবি

এদিকে, সাক্সেনা Bitcoin.com News-কে বলেন, বিশ্বের সামনে সবচেয়ে বড় ঝুঁকি এই নয় যে আমরা খুব দ্রুত বা খুব ধীরে এগোচ্ছি; বরং ঝুঁকি হলো অল্প কয়েকটি এআই কোম্পানির হাতে সবচেয়ে শক্তিশালী মডেলগুলোর নিয়ন্ত্রণ থাকা এবং একই সঙ্গে কীকে “নিরাপদ” ধরা হবে সেটিও তারা নির্ধারণ করছে।

“এআই কোম্পানিগুলো তাদের সিস্টেম সম্পর্কে যে দাবি করে, তা সত্যিই যাচাই করতে আমাদের স্বাধীন অবকাঠামো গড়তে হবে। মূল্যায়নগুলো কি শক্তপোক্ত? নিরাপত্তা রিপোর্টগুলো কি সঠিক? বাইরের গবেষকেরা কি ফলাফল পুনরুত্পাদন করতে পারেন? যদি উত্তর না হয়, তাহলে গতি বাড়ানো বা কমানো—কোনোটাই মৌলিক সমস্যার সমাধান করে না; মৌলিক সমস্যা হলো বিশ্বাসযোগ্য তথ্যের অভাব,” সাক্সেনা উপসংহার টানেন।