چت‌های هوش مصنوعی شما ممکن است در جست‌وجوی گوگل ظاهر شوند — یک قابلیت اشتراک‌گذاری این امکان را فراهم کرد

گفت‌وگوهای هوش مصنوعیِ به‌اشتراک‌گذاشته‌شده قابل جست‌وجو شدند

طبق گزارش‌ها، پس از آن‌که کاربران ردیت کشف کردند با جست‌وجوی «site:claude.ai/share» چت‌های عمومیِ قابل‌دسترسی حاوی مشاوره حقوقی، کارهای مهندسی و گفت‌وگوهای شخصی نمایش داده می‌شود، صدها گفت‌وگوی Claude AI به‌صورت آنلاین ظاهر شد؛ بنا بر گزارش Cyber Security News درباره چت‌های به‌اشتراک‌گذاشته‌شده‌ی Claude AI که در معرض دید قرار گرفته بودند.

Claude دستیار هوش مصنوعی شرکت Anthropic است که برای کدنویسی، نوشتن، پژوهش و کارهای محیط کار استفاده می‌شود. قابلیت اشتراک‌گذاری آن URLهای عمومی ایجاد می‌کند که کاربران می‌توانند برای دیگران ارسال کنند؛ با این حال، گزارش اشاره کرد این صفحات فاقد سازوکارهایی بودند که پس از انتشار لینک‌ها در فروم‌ها، شبکه‌های اجتماعی یا دیگر وب‌سایت‌های عمومی، از ایندکس‌شدن آن‌ها توسط موتورهای جست‌وجو جلوگیری کند.

نتایج جست‌وجوی گوگل برای صفحات آسیب‌دیده تا حد زیادی ناپدید شده است که نشان می‌دهد فرایند حذف سریع از ایندکس یا تغییراتی پشت‌صحنه رخ داده؛ هرچند لینک‌هایی که قبلاً ذخیره یا بوکمارک شده‌اند ممکن است همچنان قابل دسترسی بمانند، مگر این‌که Anthropic آن‌ها را در سمت سرور لغو کند.

این کشف بار دیگر توجه‌ها را به شیوه محافظت شرکت‌های هوش مصنوعی از اطلاعات حساس جلب کرده است. این رخداد چند ماه پس از افشای دیگری از کد منبع Anthropic مربوط به Claude Code رخ می‌دهد و نگرانی‌های گسترده‌تر درباره امنیت و حریم خصوصی پلتفرم‌های هوش مصنوعیِ پردازشگر داده‌های کاربران را برجسته می‌کند.

اطلاعات حساس بیش‌ازپیش به ابزارهای هوش مصنوعی وارد می‌شود

متخصصان به‌طور فزاینده‌ای برای بازبینی قراردادها، دیباگ‌کردن نرم‌افزارهای مالکیتی، تحلیل اسناد کسب‌وکار، سامان‌دهی سوابق مالی و بحث درباره مسائل شخصی به دستیارهای هوش مصنوعی تکیه می‌کنند و در نتیجه داده‌های ارزشمند را درون گفت‌وگوهای چت‌بات‌ها قرار می‌دهند.

داده‌های مالی دسته دیگری از اطلاعات خصوصیِ در معرض خطر است. حتی یک دارنده بیت‌کوین در جریان بازیابی یک کیف‌پول گمشده ۵ BTC با آپلود سال‌ها فایل رایانه‌ای، دفترچه‌ها و سوابق بکاپ به Claude تکیه کرد. این مورد نشان می‌دهد کاربران بیش‌ازپیش به سیستم‌های هوش مصنوعی برای جزئیات مالی محرمانه اعتماد می‌کنند؛ جزئیاتی که اگر گفت‌وگوها یا لینک‌های اشتراک‌گذاری به‌صورت عمومی در دسترس قرار گیرند، می‌تواند دارایی‌های دیجیتال را در معرض خطر قرار دهد.

شرایط مصرف‌کننده Anthropic درباره نگه‌داری گفت‌وگوها و آموزش مدل توضیح می‌دهد که چت‌های مصرف‌کنندگان ممکن است تحت شرایطی نگه‌داری شوند و سیاست‌های شرکت درباره ترجیحات آموزش مدل را تشریح می‌کند. این شرایط همچنین توضیح می‌دهد کاربران چگونه می‌توانند برخی تنظیمات داده را مدیریت کنند و اهمیت درک این موضوع را برجسته می‌سازد که ارائه‌دهندگان هوش مصنوعی چگونه اطلاعات به‌اشتراک‌گذاشته‌شده از طریق خدماتشان را ذخیره، پردازش و استفاده می‌کنند.

فراتر از افشای تصادفی، مهاجمان نیز از اعتماد رو‌به‌رشد به پلتفرم‌های هوش مصنوعی از طریق کمپین‌های مخرب سوءاستفاده می‌کنند. یک کمپین بدافزار Openclaw با جعل هویت نرم‌افزارهای هوش مصنوعیِ معتبر، گذرواژه‌ها و کیف‌پول‌های رمزارزی را هدف قرار داد تا داده‌های حساس کاربران را سرقت کند. این کمپین نشان می‌دهد مجرمان هرچه بیشتر از محبوبیت ابزارهای هوش مصنوعی بهره‌برداری می‌کنند و بر اهمیت دور نگه‌داشتن فایل‌های خصوصی، اعتبارنامه‌ها و سوابق مالی از خدماتِ در دسترس عمومی تأکید می‌کند.

نهادهای ناظر همچنان شیوه‌های حریم خصوصی هوش مصنوعی را بررسی می‌کنند

کمیسیون تجارت فدرال آمریکا (FTC) هشدار داد که در راهنمای خود درباره تعهدات حریم خصوصی و محرمانگی در هوش مصنوعی، شرکت‌هایی که محصولات هوش مصنوعی مولد توسعه می‌دهند باید به وعده‌هایی که نحوه جمع‌آوری، نگه‌داری و استفاده از اطلاعات مصرف‌کنندگان و کسب‌وکارها را تنظیم می‌کند پایبند باشند.

این نهاد بعدتر یک تحقیق درباره رویه‌های داده‌ای چت‌بات‌های هوش مصنوعی آغاز کرد و بررسی نمود چندین ارائه‌دهنده چگونه اطلاعات به‌دست‌آمده از گفت‌وگوهای چت‌بات را جمع‌آوری، نگه‌داری، افشا و از آن کسب درآمد می‌کنند. نهادهای ناظر جزئیاتی درباره سیاست‌های نگه‌داری داده، حفاظت‌های کاربری و تدابیر حفاظتی داخلی درخواست کردند، زیرا مسئولان ارزیابی می‌کنند آیا قوانین موجودِ حریم خصوصی مصرف‌کننده به‌قدر کافی پاسخ‌گوی پذیرش سریع خدمات هوش مصنوعی مولد هست یا نه.

با کسب قابلیت‌های آنچین توسط Claude و ChatGPT، اهمیت موضوع می‌تواند افزایش یابد؛ قابلیتی که سیستم‌های هوش مصنوعی را فراتر از تولید متن به خدمات مالی متصل و مدیریت دارایی‌های دیجیتال گسترش می‌دهد. با آغاز تعامل چت‌بات‌ها با کیف‌پول‌های رمزارزی، برنامه‌های امور مالی غیرمتمرکز و سایر حساب‌های آنلاین، نگرانی‌های حریم خصوصی و امنیت فراتر از تاریخچه گفت‌وگو به دارایی‌ها، تراکنش‌ها و مجوزهای حساب گسترش می‌یابد.

بازبینی گفت‌وگوهای به‌اشتراک‌گذاشته‌شده

هر کسی که لینک‌های اشتراک‌گذاری Claude ساخته است باید گفت‌وگوهای فعال را در تنظیمات حریم خصوصی پلتفرم بازبینی کند، لینک‌هایی را که دیگر لازم نیست حذف کند و از انتشار URLهای عمومی حاوی مطالب محرمانه خودداری کند.

فهرست‌های جست‌وجوی گوگل ممکن است سریع ناپدید شوند؛ اما لینک‌های کپی‌شده، صفحات آرشیوشده، اسکرین‌شات‌ها و بوکمارک‌های ذخیره‌شده می‌توانند پس از حذف نتایج ایندکس‌شده توسط موتورهای جست‌وجو همچنان در دسترس بمانند.

پژوهشگران همچنین تکنیک‌های حمله با عامل‌های هوش مصنوعی را مستندسازی کرده‌اند که قادر به سوءاستفاده از سیستم‌های متصل هستند و نشان می‌دهد بازیگران مخرب چگونه می‌توانند ابزارهای هوش مصنوعیِ دارای دسترسی به مرورگرها، حساب‌های ایمیل، ذخیره‌سازی ابری و خدمات مالی را دست‌کاری کنند. این یافته‌ها بر اهمیت محدودکردن دسترسی چت‌بات‌ها به فایل‌های حساس، اعتبارنامه‌ها و حساب‌های مالی و نیز بازبینی منظم مجوزهای اعطاشده به برنامه‌های هوش مصنوعی که با داده‌های شخصی یا سازمانی یکپارچه می‌شوند تأکید می‌کند.