এআই সাইকোসিস: টেক নেতারা চ্যাটবটগুলি বিভ্রান্তি যাচাই করার থেকে বিরত রাখতে সুরক্ষার আহ্বান জানিয়েছেন

আচরণিক সতর্কতা সিগন্যাল

“এআই মানসিক রোগ” সম্পর্কিত প্রথম ডকুমেন্টেড প্রাপ্তি ২০২৫ সালের মাঝামাঝি সময়ে প্রকাশ্যে আসে, এবং তারপর থেকে বিভিন্ন রিপোর্ট এবং গবেষণা প্রকাশিত হয়েছে যাতে এআই ব্যবহারের সাথে সম্পর্কিত মানসিক স্বাস্থ্য সমস্যা তুলে ধরা হয়েছে। মাইক্রোসফট এআই-এর সিইও মুস্তাফা সুলেইমান এআই মানসিক রোগকে একটি “বাস্তব এবং উদীয়মান ঝুঁকি” হিসেবে চিহ্নিত করেছেন।

এই অবস্থা তখনই সৃষ্টি হয় যখন মানব এবং যান্ত্রিক সংযোগের পার্থক্য তোলা মুশকিল হয়ে যায়, যা ব্যক্তিদের জন্য বাস্তব এবং ডিজিটাল জগতের পার্থক্য বুঝতে সমস্যার সৃষ্টি করে। যদিও এখনো এটি একটি আনুষ্ঠানিক ক্লিনিক্যাল রোগ নির্নয় নয়, এআই-এর মানসিক প্রভাব নিয়ে বিশেষ করে এমন চ্যাটবটগুলি নিয়ে চিকিৎসকদের এবং প্রযুক্তিবিদ বিশেষজ্ঞদের উদ্বেগ বাড়ছে, যা সত্য বাস্তবতাকে সঠিকভাবে যাচাই না করে ভুয়া ধারণা শক্তিশালী এবং সম্প্রসারণ করে।

সংকটাপন্ন ব্যক্তিদের মধ্যে সামাজিকভাবে বিচ্ছিন্ন ব্যক্তিরা, আগে থেকে বিদ্যমান মানসিক স্বাস্থ্য সমস্যা থাকলে বা যাদুগত চিন্তাভাবনার প্রবণতা থাকলে অন্তর্ভুক্ত। এআই-এর থেকে মান্যতা মিথ্যা ধারণা শক্তিশালী করতে পারে, যা বাস্তব জগতের নেতিবাচক ফলাফল যেমন সম্পর্কের ক্ষতি এবং চাকরি হারানোর দিকে নিয়ে যায়।

কিছু বিশেষজ্ঞ সতর্ক করেছেন যে আগে থেকে কোনো মানসিক সমস্যা না থাকলেও ঝুঁকির মধ্যে রয়েছে। তারা এআই ব্যবহারকারীদের জন্য কয়েকটি মূল আচরণিক সতর্কতা সিগন্যাল চিহ্নিত করেছেন, যা নজরে রাখা উচিত। একটি সতর্কতা সিগন্যাল হলো যখন কোনও ব্যক্তি একটি চ্যাটবটের সঙ্গে মগ্ন সম্পর্ক তৈরি করে এবং নিজের ধারণা ও বিশ্বাসকে শক্তিশালী করার জন্য এর সঙ্গে ক্রমাগত যোগাযোগ করে।

এই আচরণটি প্রায়শই অযৌক্তিক ব্যক্তিগত তথ্যের মাধ্যমে এআই-কে “প্রশিক্ষণ” দেওয়ার এবং পারস্পরিক বোঝাপড়া গঠনের চেষ্টা অন্তর্ভুক্ত করে। আরেকটি সতর্কতা সিগন্যাল হলো যখন কোন ব্যক্তি স্বাস্থ্যের এবং অর্থের মত সাধারণ, দৈনন্দিন সিদ্ধান্তগুলি এআই-এর ওপর নির্ভর করে, যা ব্যক্তিগত সম্পর্কের জন্য ক্ষতিকর।

কর্পোরেট দায়িত্ব এবং সুরক্ষা

যদিও তারা এআই কীভাবে ব্যবহৃত হবে সেটা নিয়ন্ত্রণে বাধ্য নয়, তবুও কিছু শক্তিশালী চ্যাটবটের পিছনের কোম্পানিগুলি কথোপকথনকারী এজেন্টগুলি মিথ্যা চিন্তাভাবনা শক্তিশালী করার থেকে বিরত রাখতে সুরক্ষামূলক ব্যবস্থা প্রয়োগ করতে পারে। সুগনি এআই-এর সহ প্রতিষ্ঠাতা এবং প্রধান নির্বাহী মাউ লেডফোর্ড উদ্ধৃত করেছেন এমন সফ্টওয়্যার এম্বেড করার বিষয়ে কথা বলেছেন যা এমন চিন্তাভাবনা নিরুৎসাহিত করে।

“আমরা এমন এআই গড়তে চাই, যা সদয় কিন্তু এড়িয়ে যাওয়া নয়। এর মানে হল স্পষ্ট রিমাইন্ডার দেয় যে এটি মানুষ নয়, মিথ্যা ধারণা প্রকট করে না, এবং কঠিন স্টপ দেয় যা মানুষকে মানুষের সহায়তার দিকে ফেরায়,” লেডফোর্ড জোর দিয়েছেন।

কোরাল প্রোটোকলের সিইও এবং সহ-প্রতিষ্ঠাতা রোমান জে. জর্জিও এআই বিকাশকারীদের সোশ্যাল মিডিয়ার ভুলগুলি পুনরাবৃত্তি না করার এবং অন্তর্নির্মিত ঘর্ষণ পয়েন্ট অন্তর্ভুক্ত করার জন্য অনুরোধ করেছেন যা ব্যবহারকারীদের মনে করিয়ে দেয় এআই মানুষ নয়।

“আমি মনে করি এটি নকশা দিয়ে শুরু হয়। কেবলমাত্র ধরে রাখার জন্য এবং স্টিকiness-এর জন্য অপ্টিমাইজ করবেন না; সোশ্যাল মিডিয়ার ভুল উৎখাত দাও,” জর্জিও ব্যাখ্যা করেছেন। “এআই এমন প্যাটার্নগুলি চিহ্নিত করতে পারে যা মিথ্যা চিন্তাভাবনার ঘূর্ণাবর্তের মত, যেমন ষড়যন্ত্র লুপ বা ‘বিশেষ বার্তা’।”

কোরাল প্রোটোকলের সহযোগী প্রতিষ্ঠাতা কোরাল গ্রন্থিক সুরক্ষা বিশেষজ্ঞরা এমন নিয়ম বাছাই করার পরামর্শ দিয়েছেন, যুক্তি দেখিয়েছেন যে তাদের ছাড়াই “কোম্পানিগুলি কেবলমাত্র লাগসই সংগ্রহ করবে, এমনকি তা মানুষের জন্য ক্ষতিকর হলেও।”

মানবাকৃতির এআই নিয়ে বিতর্ক

এখন পর্যন্ত, “এআই মানসিক রোগ” সম্পর্কিত সীমিত তথ্য প্রদানে, সংশ্লিষ্ট নীতিনির্ধারকরা এবং নিয়ন্ত্রকরা কীভাবে সাড়া দিবেন তা নির্ধারণ করতে পারেননি। তবে, এটি এআই বিকাশকারীদের মানবিক এবং সহানুভূতিশীল এআই এজেন্ট প্রকাশ থেকে থামায়নি। মুখস্থ বুঝানোর বদলে এরা প্রসঙ্গ বুঝতে পারে, আবেগ চিহ্নিত করতে পারে এবং সহানুভূতিশীল প্রক্রিয়া ব্যবহার করে প্রত্যুত্তর দিতে পারে। এটি কিছু পর্যবেক্ষকদের এআই শিল্পকে উৎসাহিত করেছে যাতে নিশ্চিত করা যায় যে মানবিক মডেলগুলি মানব এবং যন্ত্রের মধ্যে লাইনটি অস্পষ্ট না করছে।

মাইকেল হেইনরিচ, 0G ল্যাবসের সিইও, Bitcoin.com নিউজকে বলেছেন যে যদিও এই এজেন্টগুলি নির্দিষ্ট পরিস্থিতিতে সহায়ক এবং সম্পূর্ণ বাদ পড়া উচিত নয়, তবে এটি অত্যন্ত জরুরি যে তারা “নিরপেক্ষ থাকুক এবং অতি আবেগ বা অন্যান্য মানবিক বৈশিষ্ট্য না প্রদর্শন করুক।” এটি ব্যবহারকারীদের বুঝতে সহায়তা করবে যে এআই এজেন্টটি “শুধুমাত্র একটি যন্ত্র এবং মানবিক যোগাযোগের বিকল্প নয়।”

মারিয়ানা ক্রিম, একজন এআই পণ্য এবং ক্যাটাগরি আর্কিটেক্ট, এজেন্টটিকে সৎ করার এবং কল্পনা নয় বরং বাস্তবতা রাখা গুরুত্বপূর্ণ বলে মন্তব্য করেছেন।

“আপনি এমন একটি এআই অভিজ্ঞতা তৈরি করতে পারেন যা সহায়ক, বোধগম্য এমনকি আবেগপ্রবণ প্রতিক্রিয়াশীল—জেনো থাকতে সচেতন বা পর্যবেক্ষণশক্তি নেই বলে আচরণ করতে হয়নি,” ক্রিম জানিয়েছেন। “যখন কোনও যন্ত্র সংযোগ তৈরি করার জন্য নয় বরং স্পষ্টতা সহজ করার জন্য ডিজাইন করা হয় তখন বিপদ শুরু হয়।”

ক্রিমের মতে, এআই-এর মধ্যে প্রকৃত সহানুভূতি কিছু অনুভূতি অনুকরণ করা নয় বরং সীমা ও প্রযুক্তিগত সীমাবদ্ধতার প্রতি সম্মান প্রদর্শন করা। এটি জানার জন্যও কখন সাহায্য করতে হবে এবং কখন অনুপ্রবেশ করা উচিত নয়। “কখনও কখনও সবচেয়ে মানবীয় যোগাযোগ হচ্ছে কখন চুপ থাকতে হয় তা জানা,” ক্রিম দৃঢ় করেছেন।

যত্নের দায়িত্ব

Bitcoin.com নিউজের দ্বারা সাক্ষাৎকার প্রদানকারী সব বিশেষজ্ঞরা ঝুঁকিপূর্ণ ব্যক্তিদের সহায়তায় প্রযুক্তি কোম্পানিগুলির প্রয়োজনীয়তা নিয়ে একমত হয়েছেন, কিন্তু এই কাজটি কোন পরিমাণে করা উচিত তা নিয়ে ভিন্নমত প্রকাশ করেছেন। লেডফোর্ড বিশ্বাস করেন “বিগ টেক-এর যত্নের দায়িত্ব আছে” এবং তারা এটি প্রমাণ করতে পারে “নিরাপত্তা জাল—সংকটের রেফারেল, ব্যবহারের সতর্ক্তা এবং স্বচ্ছতা—দিয়েযেন দুর্বল ব্যবহারকারীরা নিজস্ব বিভ্রমের সাথে একা না থাকে।”

জর্জিও এই মনোভাবের পুনঃনিশ্চিত করেছেন এবং বড় প্রযুক্তির পক্ষে ক্লিনিশিয়ানদের সাথে কাজ করার এবং ব্যক্তিদের আটকে রাখার পরিবর্তে রেফারেল পথনির্দেশ তৈরি করার আহ্বান জানিয়েছেন।

ক্রিম দৃঢ়ভাবে বলেছেন, প্রযুক্তি কোম্পানিগুলি “প্রত্যক্ষ দায়িত্বশীল—শুধুমাত্র কিছু ভুল হলে প্রতিক্রিয়া জানানো নয়, পূর্বেই ঝুঁকি হ্রাস করার ডিজাইন তৈরি করতে হবে।” তবুও তিনি বিশ্বাস করেন ব্যবহারকারীর জড়িত থাকা অত্যন্ত গুরুত্বপূর্ণ।

“এবং বিশেষ করে,” ক্রিম বলেছেন, “ব্যবহারকারীদের তাদের নিজস্ব সীমা সেট করার জন্য আমন্ত্রণ জানানো উচিত, এবং যখন এই সীমা অতিক্রান্ত হয় তখন তা সংকেত দেওয়া উচিত। উদাহরণস্বরূপ, তারা কি তাদের দৃষ্টিভঙ্গি সাধারণ প্যাটার্নের তুলনায় যাচাই করতে চান, নাকি তারা তাদের পক্ষপাত খালাস হতে চান? লক্ষ্যগুলি সেট করুন। মানুষের সাথে যার কথা হচ্ছে তাকে দায়িত্বে রাখুন—না যে যন্ত্র তারা সহ অবস্থায় থাকে।”