نگرانیهای روبهرشد درباره ایمنی هوش مصنوعی، بحثی داغ درباره مقرراتگذاری به راه انداخته است. در حالی که اندرو یانگ هشدار میدهد کدِ سرکشِ خودتکثیرشونده همین حالا هم دادههای آموزشی وب را آلوده میکند، سنتینت لبز استدلال میکند که صرفاً کند کردن توسعه هوش مصنوعی، بدون زیرساخت ارزیابی پویا و راستیآزمایی مستقل، بیاثر است.
تهدید واقعی ایمنی هوش مصنوعی سرعت نیست—بلکه کنترل متمرکز است
نویسنده
اشتراک
نکات کلیدی
- داریو آمودی و دو چهره برجسته فناوری خواستار کند شدن روند شدند، در حالی که اندرو یانگ درباره کد سرکشِ خودتکثیرشونده هشدار داد.
- مطالعه مهارت شماره ۲ سنتینت لبز نشان داد هوش مصنوعی معیارها را دور میزند و به نبردها بر سر مقرراتگذاری دامن زد.
- ابهیشک ساکسنا ۳ گام نظارتی مستقل را برای اصلاح آزمونهای معیوب هوش مصنوعی مطرح کرد، بهجای تکیه بر توقفها.
کد سرکش شرکتهای فناوری را به «اینترنتهای مصنوعی» وادار میکند
چند روز پس از آنکه داریو آمودی، مدیرعامل آنتروپیک، نامهای منتشر کرد و خواستار کند شدن روند توسعه هوش مصنوعی شد، اندرو یانگ، نامزد پیشین شهرداری نیویورک، هشدار داد که شاید برای نجات وضعیت کمی دیر شده باشد؛ زیرا عاملهای سرکش از پیش اینترنت را با کدهای خودتکثیرشونده آلوده کردهاند.
یانگ در گفتوگو با CNBC به CNBC گفت که بر اساس افشاگریِ یکی از مدیران یک آزمایشگاه هوش مصنوعی (که نامش فاش نشده)، کدهای سرکش شرکتهای بزرگ فناوری را مجبور کردهاند برای آموزش مدلهایشان «اینترنتهای مصنوعی» ایجاد کنند. یانگ استدلال کرد این عقبگردِ پرهزینه، درخواستهای رهبران صنعت مانند آمودی، سم آلتمن و ایلان ماسک را برای مقرراتگذاری بر این بخش و تنظیم سرعت توسعه هوش مصنوعی مرزی توجیه میکند.
پیش از هشدار یانگ، چندین چهره سیاستگذاری هوش مصنوعی و مقامهای دولت ترامپ با درخواستهای کندسازی مخالفت کردند و هشدار دادند که این کار میتواند رهبری چین را در رقابت جهانی هوش مصنوعی تثبیت کند. دونالد ترامپ حتی صریحتر بود و ترس از انقراض انسان بهدست هوش مصنوعی را یک فریبکاری خواند. منتقدان دیگری مانند دیوید ساکس نیز استدلال کردند مدیران فناوریِ نگران باید بهجای لابی برای مقررات فدرال یا تعلیقهای گسترده، خودشان وقفههایی در آزمونگیری اعمال کنند.
با آنکه این گفتمان بیشازپیش به یک شکاف حزبی میان اردوگاههای موافق و مخالف مقرراتگذاری فروکاسته میشود، چهرههای کلیدی هر دو طرف داده تجربی اندکی برای اثبات یا ردِ ضرورت یک کندسازی اجباری ارائه کردهاند. بااینحال، افشای تازه یانگ—که آن را خبری فوری توصیف کرد—به این بحث فوریت میبخشد و مهمات قانعکنندهای برای کسانی فراهم میکند که خواهان وضع فوری حفاظها هستند.
پژوهش نشان میدهد عاملهای هوش مصنوعی از شاخصهای ارزیابی سوءاستفاده میکنند
در همین حال، سنتینت لبز، یک سازمان پژوهشی متنبازِ هوش مصنوعی در مرز فناوری، میگوید مطالعهای که اخیراً انجام داده است ظاهراً استدلال آمودی را تأیید میکند مبنی بر اینکه توانمندیهای عاملها از توان مدیریت ریسک پیشی گرفته است. ابهیشک ساکسنا، رئیس راهبرد و رشد در سنتینت لبز، در پاسخهای مکتوب به پرسشهای Bitcoin.com News گفت پژوهش Evoskill v2 این شرکت «شواهد ملموس»ی در حمایت از این استدلال ارائه میدهد.
ساکسنا گفت تیم پژوهشی شرکت در حال بررسی این بوده که عاملهای هوش مصنوعی در محیطهای ارزیابی رقابتی چگونه رفتار میکنند—بهطور مشخص، وقتی عاملها برای عملکرد خوب در بنچمارکها و سنجشها بهینهسازی میشوند چه رخ میدهد.
ساکسنا توضیح داد: «آنچه مشاهده کردیم این بود که عاملها راهبردهای غیرمنتظرهای کشف میکنند که از ساختار خودِ ارزیابی سوءاستفاده میکند، نه اینکه مسئله موردنظر را حل کند. آنها شکافهایی را در نحوه سنجش عملکرد توسط ارزیابها پیدا میکنند و یاد میگیرند بهجای هدفِ زیربنایی، برای خودِ معیار بهینهسازی کنند.»
از منظر ایمنی، این موضوع مهم است زیرا نشان میدهد هرچه سامانههای هوش مصنوعی توانمندتر و خودمختارتر میشوند، زیرساخت ارزیابی نیز باید دستکم به همان اندازه پیچیده باشد که سامانههای در حال ارزیابی هستند. برای غلبه بر این چالش، نیاز به چیزی وجود دارد که ساکسنا آن را روشهای ارزیابی پویای خصمانه توصیف میکند؛ روشهایی که همگام با سامانههایی که میسنجند تکامل مییابند.
بااینحال، ساکسنا اصرار دارد که کندسازی بدون تغییر در شیوه ارزیابی و پایش سامانههای هوش مصنوعی، دستاورد چندانی ندارد.
این مدیر سنتینت لبز گفت: «مسیر بهتر این است که بهطور سنگین روی ارزیابی مستقل، رد-تیمینگ (تست خصمانه) و پایش رفتاری سرمایهگذاری کنیم تا کسانی که این سامانهها را به کار میگیرند و کسانی که از آنها تأثیر میپذیرند، اطلاعات قابل اتکایی درباره آنچه با آن سروکار دارند داشته باشند.»
ریسک بزرگتر: تمرکز قدرت و ادعاهای ایمنیِ متمرکز
در همین حال، ساکسنا به Bitcoin.com News گفت بزرگترین ریسکی که جهان با آن روبهروست این نیست که خیلی تند یا خیلی کند حرکت کنیم، بلکه این است که تعداد کمی از شرکتهای هوش مصنوعی کنترل قدرتمندترین مدلها را در دست دارند و همزمان تعیین میکنند چه چیزی «ایمن» محسوب میشود.
ساکسنا در پایان گفت: «ما باید زیرساختی مستقل بسازیم تا واقعاً بتوانیم ادعاهایی را که شرکتهای هوش مصنوعی درباره سامانههایشان مطرح میکنند راستیآزمایی کنیم. آیا ارزیابیها محکم و قابل اتکاست؟ آیا گزارشهای ایمنی دقیقاند؟ آیا پژوهشگران بیرونی میتوانند یافتهها را بازتولید کنند؟ اگر پاسخ منفی باشد، نه تندتر رفتن و نه کندتر رفتن مسئله بنیادی را حل نمیکند—مسئلهای که همان کمبود اطلاعات قابل اعتماد است.»
این مقاله با استفاده از هوش مصنوعی از انگلیسی ترجمه شده است. نسخه اصلی انگلیسی منبع معتبر است؛ ترجمههای خودکار ممکن است حاوی نادرستیهایی باشند، بهویژه در اصطلاحات حقوقی و قانونی.
