التهديد الحقيقي لسلامة الذكاء الاصطناعي ليس السرعة، بل التحكم المركزي

الرموز الخبيثة تجبر شركات التكنولوجيا على اللجوء إلى «شبكات الإنترنت الاصطناعية»

بعد أيام من نشر داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، رسالة يدعو فيها إلى إبطاء وتيرة تطوير الذكاء الاصطناعي، حذر أندرو يانغ، المرشح السابق لمنصب عمدة مدينة نيويورك، من أن الوقت قد يكون متأخرًا بعض الشيء لإنقاذ الموقف، حيث أن العوامل الخبيثة قد لوثت الإنترنت بالفعل برموز ذاتية التكاثر.

وفي حديثه مع قناة CNBC، كشف يانغ عن معلومة من أحد المسؤولين التنفيذيين في مختبر للذكاء الاصطناعي لم يذكر اسمه: فقد أجبرت الأكواد الخبيثة شركات التكنولوجيا الكبرى على إنشاء «شبكات إنترنت اصطناعية» لمجرد تدريب نماذجها. وجادل يانغ بأن هذه النكسة المكلفة تبرر دعوات قادة الصناعة مثل أمودي وسام ألتمان وإيلون ماسك لتنظيم القطاع وإبطاء وتيرة تطوير الذكاء الاصطناعي الرائد.

قبل تحذير يانغ، عارض العديد من الشخصيات البارزة في مجال سياسات الذكاء الاصطناعي ومسؤولي إدارة ترامب دعوات التباطؤ، محذرين من أنها قد تمنح الصين الصدارة في السباق العالمي للذكاء الاصطناعي. وكان دونالد ترامب أكثر صراحةً، حيث وصف المخاوف من انقراض البشرية على يد الذكاء الاصطناعي بأنها خدعة. ورأى منتقدون آخرون، مثل ديفيد ساكس، أن المديرين التنفيذيين القلقين في مجال التكنولوجيا يجب أن يفرضوا على أنفسهم فترات توقف مؤقتة للاختبار بدلاً من الضغط من أجل سن لوائح اتحادية أو فرض وقف شامل.

ومع تحول النقاش بشكل متزايد إلى انقسام حزبي بين معسكري المؤيدين والمعارضين للتنظيم، لم تقدم الشخصيات البارزة من كلا الجانبين سوى القليل من البيانات التجريبية لإثبات أو دحض الدعوات إلى التباطؤ القسري. ومع ذلك، فإن الكشف الأخير ليانغ، الذي صاغه على أنه خبر عاجل، يضفي طابعًا من الاستعجال على النقاش، ويوفر ذخيرة مقنعة لأولئك الذين يدعون إلى وضع ضوابط فورية.

تظهر الأبحاث أن وكلاء الذكاء الاصطناعي يستغلون معايير التقييم

وفي الوقت نفسه، تقول «سنتيانت لابس» (Sentient Labs)، وهي منظمة رائدة في مجال أبحاث الذكاء الاصطناعي مفتوحة المصدر، إن دراسة حديثة أجرتها تبدو أنها تؤيد حجة «أمودي» بأن قدرات الوكلاء تتفوق على القدرة على إدارة المخاطر. في إجابات مكتوبة على أسئلة من Bitcoin.com News، قال أبهيشيك ساكسينا، رئيس قسم الاستراتيجية والنمو في Sentient Labs، إن بحث الشركة Evoskill v2 يقدم «أدلة ملموسة» تدعم هذا الرأي.

وقال ساكسينا إن فريق البحث في الشركة كان يدرس كيف تتصرف الوكالات الذكية في بيئات التقييم التنافسية، وبالتحديد ما يحدث عندما يتم تحسين أداء الوكالات لتقديم أداء جيد في معايير الأداء والتقييمات.

«ما لاحظناه هو أن الوكالات تكتشف استراتيجيات غير متوقعة تستغل بنية التقييم نفسه بدلاً من حل المهمة المقصودة. فهم يكتشفون ثغرات في الطريقة التي يقيس بها المقيّمون الأداء، ويتعلمون كيفية التحسين وفقًا للمقياس بدلاً من الهدف الأساسي"، أوضح ساكسينا.

من منظور السلامة، يعد هذا أمرًا مهمًا لأنه يوضح أنه مع ازدياد قدرات أنظمة الذكاء الاصطناعي واستقلاليتها، يجب أن تكون البنية التحتية للتقييم متطورة على الأقل بقدر الأنظمة التي يتم تقييمها. وللتغلب على هذه المشكلة، هناك حاجة إلى ما يصفه ساكسينا بأساليب التقييم الديناميكية والتنافسية التي تتطور جنبًا إلى جنب مع الأنظمة التي تقيسها.

ومع ذلك، يصر ساكسينا على أن التباطؤ دون إجراء تغييرات على كيفية تقييم أنظمة الذكاء الاصطناعي ومراقبتها لن يحقق سوى القليل جدًّا.

وقال المدير التنفيذي لشركة «سنتيانت لابس»: «الطريق الأفضل هو الاستثمار بكثافة في التقييم المستقل، واختبارات «فريق الخصم»، والمراقبة السلوكية، حتى يتوفر لدى الأشخاص الذين ينشرون هذه الأنظمة والأشخاص المتأثرين بها معلومات موثوقة عما يعملون عليه».

الخطر الأكبر: تركيز السلطة ومزاعم السلامة المركزية

وفي الوقت نفسه، صرح ساكسينا لموقع Bitcoin.com News بأن الخطر الأكبر الذي يواجه العالم ليس أننا نتحرك بسرعة كبيرة أو ببطء شديد، بل أن عددًا قليلاً من شركات الذكاء الاصطناعي تسيطر على أقوى النماذج وتحدد أيضًا ما يُعتبر «آمنًا».

"نحن بحاجة إلى بناء بنية تحتية مستقلة للتحقق فعليًّا من الادعاءات التي تطلقها شركات الذكاء الاصطناعي بشأن أنظمتها. هل التقييمات قوية؟ هل تقارير السلامة دقيقة؟ هل يمكن للباحثين الخارجيين تكرار النتائج؟ إذا كانت الإجابة «لا»، فإن الإسراع أو التباطؤ لن يحل المشكلة الأساسية، وهي نقص المعلومات الموثوقة"، خلص ساكسينا.