بازگشت «افسانهٔ قیمت» معامله‌گران کالشی ۵ با نرخ ۶۸٪ پیش از ۱ ژوئیه پس از ممنوعیت تاریخی هوش مصنوعی

چه اتفاقی افتاد

در ۱۲ ژوئن ۲۰۲۶، وزارت بازرگانی یک دستور کنترل صادرات صادر کرد که Anthropic را ملزم می‌کرد دسترسی به Claude Fable 5 و Claude Mythos 5 را برای هر تبعه خارجی—چه داخل و چه خارج از ایالات متحده—معلق کند. از آنجا که دسترسی API نمی‌تواند به‌طور قابل‌اعتماد کاربران را بر اساس تابعیت فیلتر کند، Anthropic هر دو مدل را برای تمام مشتریان در سراسر جهان غیرفعال کرد. سایر مدل‌های Anthropic فعال ماندند.

این دستور حدود ساعت ۵:۲۱ بعدازظهر به وقت شرق آمریکا رسید. تا شب، Anthropic در بیانیه‌ای عمومی تأیید کرد که تعطیلی انجام شده است.

ارتباط آمازون

به گفته افرادی آشنا با موضوع که وال‌استریت ژورنال به نقل از آنان اشاره کرده است، جَسی به وزیر خزانه‌داری اسکات بسِنت، وزیر بازرگانی هاوارد لوتنیک و مدیر ملی سایبری شان کِرنکراس اطلاع داد که پژوهشگران آمازون با استفاده از پرامپت‌های دست‌ساز روی Fable 5 توانسته‌اند اطلاعاتی درباره آسیب‌پذیری‌های نرم‌افزاری استخراج کنند؛ اطلاعاتی که قرار بود مدل از ارائه آن‌ها خودداری کند.

این پژوهش پرامپت‌هایی را شناسایی کرد که برخی از طبقه‌بندهای ایمنیِ داخلی Fable 5 را در دست‌کم چهار برنامه دور می‌زدند. پژوهشگران دریافتند مدل می‌تواند باگ‌های نرم‌افزاری را شناسایی کند و در نظریه، به تبدیل آن‌ها به کد اکسپلویت کمک کند، هرچند در موارد آزمایش‌شده، گاردریل‌ها مانع تحقق کامل می‌شدند. هیچ مدرکی نشان نمی‌داد آمازون از قابلیت‌های تهاجمی استفاده کرده یا به آن‌ها دسترسی یافته است.

ارتباط‌گیری جَسی بخشی از گفت‌وگوهای گسترده‌تر میان مدیران فناوری و دولت درباره ریسک‌های هوش مصنوعی بود. سپس دولت برای اعمال کنترل صادرات اقدام کرد و گزارش شده است که رئیس‌جمهور ترامپ با وجود نگرانی‌ها درباره اثرات بر نوآوری، آن را تأیید کرده است.

«جیلبریک» کردن یک مدل هوش مصنوعی یعنی چه

«جیلبریک» سنتی—که با جورج هاتز و زمانی مشهور شد که او در سال ۲۰۰۷ آیفونِ نخست را آنلاک کرد—یعنی یافتن و بهره‌برداری از آسیب‌پذیری‌های سطح پایینِ فریم‌ور یا سخت‌افزار برای برداشتن محدودیت‌های سازنده. اما جیلبریکِ پرامپتی در هوش مصنوعی متفاوت عمل می‌کند.

جیلبریکِ پرامپتی یعنی ساختن ورودی‌های متنی که برای فریب دادن یک مدل زبانی بزرگ (LLM) طراحی شده‌اند تا قوانین ایمنی خود را نادیده بگیرد. به جای بهره‌برداری از کد، پژوهشگران از زبان استفاده می‌کنند. یکی از نخستین نمونه‌ها پرامپت «DAN» (Do Anything Now) بود که اواخر ۲۰۲۲ در ردیت پخش شد و به ChatGPT دستور می‌داد نقش یک شخصیت بدون محدودیت را بازی کند. تکنیک‌ها از سناریوهای نقش‌آفرینی و چارچوب‌بندی‌های فرضی تا روش‌های خودکار که رشته‌های متنیِ خصمانه را بهینه‌سازی می‌کنند، گسترده‌اند.

در پرونده Fable 5، پژوهشگران آمازون از تکنیک‌های مبتنی بر پرامپت استفاده کردند تا مدل را وادار کنند اطلاعات آسیب‌پذیری‌هایی را که قرار بود رد کند، آشکار سازد.

مخالفت Anthropic

Anthropic با دستور همکاری کرد اما قاطعانه مقاومت نشان داد. این شرکت نمایش آمازون را بازبینی کرد و به این نتیجه رسید که آن نمایش تنها تعداد کمی آسیب‌پذیری جزئی و از پیش شناخته‌شده را تولید کرده که با سایر مدل‌های عمومیِ در دسترس نیز بدون هیچ دور زدنی قابل کشف هستند. Anthropic گفت با وجود ردتیمینگ گسترده با دولت آمریکا، مؤسسه ایمنی هوش مصنوعی بریتانیا و طرف‌های ثالث، هیچ جیلبریکِ فراگیری برای Fable 5 یا Mythos 5 وجود ندارد.

این شرکت استدلال کرد اعمال این معیار در سراسر صنعت «عملاً تمام استقرارهای مدل‌های جدید را متوقف می‌کند». Anthropic این اقدام را «سوءتفاهم» خواند و گفت در حالی که سیاست نگهداری داده ۳۰روزه را برای اهداف پژوهشی حفظ می‌کند، در تلاش است دسترسی را بازگرداند.

مشاور سابق هوش مصنوعی کاخ سفید و تزار کریپتو، دیوید سَکس، گفت این محدودیت «با اکراه» صادر شده و ابراز امیدواری کرد Anthropic مشکل را برطرف کند تا کنترل صادرات برداشته شود.

به گفته سَکس، یک «شریک مورد اعتمادِ بسیار معتبر» راهی برای دور زدن گاردریل‌های Fable کشف کرد و هم Anthropic و هم دولت آمریکا را مطلع ساخت. او ادعا می‌کند دولت از مدیرعامل Anthropic، داریو آمودِی، خواسته بود یا آسیب‌پذیری را رفع کند یا مدل را حذف کند، اما Anthropic نپذیرفت.

سَکس در X نوشت: «توپ در زمین Anthropic است»، و افزود دولت امیدوار است Anthropic مشکل را برطرف کند تا محدودیت‌ها برداشته شوند و Fable دوباره به دسترس عمومی بازگردد. اریک وورهیس، بنیان‌گذار Venice AI و ShapeShift، روایت دولت از رویدادها را رد کرد.

در رشته‌توییت سَکس، وورهیس پیشنهاد کرد جیلبریکِ ادعایی احتمالاً یک مسئله امنیتیِ معمولی بوده نه تهدیدی بزرگ، و استدلال کرد Anthropic شاید درخواست‌ها برای توقف استقرار مدل را افراطی دانسته باشد. وورهیس همچنین گمانه‌زنی کرد که مقام‌های فدرال از این جنجال به عنوان فرصتی برای تنبیه Anthropic بابت اختلاف‌های پیشین با واشنگتن استفاده کرده‌اند و افزود در مسائل ایمنی هوش مصنوعی، به ارزیابی Anthropic بیش از دولت فدرال اعتماد دارد.

پژوهشگر امنیتی کیتی موسوریس از Luta Security، که یافته‌های آمازون را بررسی کرده بود، واکنش دولت را «یک واکنش افراطیِ کامل» خواند و گفت این اطلاعات عمدتاً بیش از مهاجمان به مدافعان کمک می‌کند.

بازارهای پیش‌بینی چه می‌گویند

معامله‌گران به سرعت برای قیمت‌گذاریِ زمان‌بندی بازگشت Fable 5 وارد عمل شدند.

در Polymarket، سه قرارداد مبتنی بر تاریخ در ۱۳ ژوئن با مجموع حجم معاملات ۱۸٬۲۶۳ دلار باز شدند:

• تسویه در ۱۵ ژوئن: احتمال ۲۲٪، حجم ۱۳٬۹۷۵ دلار
• تسویه در ۲۲ ژوئن: احتمال ۵۴٪، حجم ۴٬۰۱۱ دلار
• تسویه در ۱ ژوئیه: احتمال ۷۱٪، حجم ۱٬۵۹۵ دلار

معامله‌گران Kalshi قراردادهای مشابهی را اجرا می‌کنند که مجموعاً ۶٬۴۱۹ دلار حجم ۲۴ساعته دارند:

• پیش از ۱۵ ژوئن: احتمال ۱۴٪
• پیش از ۲۰ ژوئن: احتمال ۵۱٪
• پیش از ۱ ژوئیه: احتمال ۶۸٪

اجماع جمعی به سمت حل‌وفصل در نیمه دوم ژوئن متمایل است، با اطمینان بالایی که بازگردانی در همان هفته بعید است.

چرا این مهم است

این یکی از مستقیم‌ترین کاربردهای کنترل‌های صادراتی آمریکا تا امروز برای محدود کردن دسترسی جهانی به یک مدل پیشروی مشخصِ هوش مصنوعی از یک شرکت آمریکایی است—جدا از محدودیت‌های تراشه و سخت‌افزار که سیاست‌های پیشین را تعریف کرده بودند. این اقدام بر پژوهشگران متولد خارج که در آمریکا کار می‌کنند، عملیات جهانی امنیت سایبریِ وابسته به ابزارهای Anthropic و زمان‌بندی تجاری و عرضه اولیه (IPO) Anthropic اثر می‌گذارد. آمازون هم سرمایه‌گذار Anthropic است و هم شریک اصلی توزیع ابری برای مدل‌های آن از طریق Amazon Bedrock.

بحث «هوش مصنوعیِ دروازه‌دار»

برخی ناظران استدلال می‌کنند این دستور آغاز عصر «هوش مصنوعیِ دروازه‌دار» است؛ دوره‌ای که در آن توانمندترین مدل‌های مرزی دیگر به‌طور گسترده در دسترس نیستند، بلکه از طریق تأیید دولت، KYC، بررسی تابعیت و مجوزدهیِ راستی‌آزمایی‌شده سهمیه‌بندی می‌شوند. عموم مردم نسخه‌های قدیمی‌تر یا تنزل‌یافته را دریافت می‌کنند، در حالی که شرکای تأییدشده به پشته کامل—مدل‌هایی مانند Fable و Mythos—دسترسی دارند.

یکی از کاربران X این رویداد را توصیف کرد به‌عنوان لحظه‌ای تعیین‌کننده برای هوش مصنوعی و مدعی شد که «قدرتمندترین مدل هوش مصنوعی روی زمین ۳ روز زنده بود» پیش از آنکه اقدام دولت عملاً آن را خاموش کند. آن پست استدلال می‌کرد Anthropic—شرکتی که پیش‌تر «برای مقررات‌گذاری التماس کرده بود»—دید که «دولت آن‌ها را مقررات‌گذاری کرد» با مختل کردن دسترسی به مدل پرچم‌دارش. کاربر همچنین ادعا کرد این اپیزود نشان داد هوش مصنوعی پیشرفته یک «کلید خاموش» دارد و «شرکت آن را در اختیار ندارد».

نگرانی کمتر درباره این حادثه و بیشتر درباره سیگنالی است که ارسال می‌کند. اگر یک نمایش جیلبریک محدود برای کنار کشیدن یک مدل تجاریِ مستقر که صدها میلیون نفر از آن استفاده می‌کنند کافی باشد، منتقدان می‌گویند آستانه محدودیت‌های آینده پایین‌تر از چیزی است که هر کسی تصور می‌کرد.