Ваші чати з штучним інтелектом можуть з’являтися в пошуку Google — це стало можливим завдяки одній функції обміну

Розмови в AI, що були опубліковані, стали доступними для пошуку

За повідомленнями, сотні розмов у Claude AI з'явилися в Інтернеті після того, як користувачі Reddit виявили, що пошук за запитом «site:claude.ai/share» виводив загальнодоступні чати, що містили юридичні поради, інженерні роботи та особисті обговорення, згідно з повідомленням Cyber Security News про оприлюднені спільні чати Claude AI.

Claude — це помічник на базі штучного інтелекту від компанії Anthropic, який використовується для програмування, написання текстів, досліджень та виконання робочих завдань. Його функція спільного доступу створює публічні URL-адреси, які користувачі можуть надсилати іншим, хоча у звіті зазначено, що ці сторінки не мали засобів захисту, які б запобігали їх індексації пошуковими системами після поширення посилань на форумах, у соціальних мережах або на інших публічних веб-сайтах.

Результати пошуку Google для цих сторінок здебільшого зникли, що свідчить про швидке вилучення з індексу або зміни, що відбулися за лаштунками, хоча раніше збережені або додані до закладок посилання можуть залишатися доступними, якщо компанія Anthropic не скасує їх на рівні сервера.

Це відкриття знову привернуло увагу до того, як компанії, що займаються штучним інтелектом, захищають конфіденційну інформацію. Цей інцидент стався через кілька місяців після іншого витоку вихідного коду Anthropic, пов’язаного з Claude Code, що підкреслює більш широкі занепокоєння щодо безпеки та конфіденційності платформ штучного інтелекту, які обробляють дані користувачів.

Все більше конфіденційної інформації надходить у інструменти штучного інтелекту

Фахівці дедалі частіше покладаються на ШІ-помічників для перегляду контрактів, налагодження власного програмного забезпечення, аналізу ділових документів, упорядкування фінансових записів та обговорення особистих питань, розміщуючи цінні дані у розмовах із чат-ботами.

Фінансові дані становлять ще одну категорію приватної інформації, що піддається ризику. Один власник біткойнів навіть поклався на Claude під час відновлення втраченого гаманця з 5 BTC, завантаживши багаторічні комп’ютерні файли, нотатки та резервні копії. Цей випадок ілюструє, як користувачі дедалі більше довіряють системам штучного інтелекту конфіденційні фінансові дані, що може призвести до витоку цифрових активів, якщо розмови або спільні посилання стануть загальнодоступними.

Умовами користування Anthropic, що стосуються збереження розмов та навчання моделей, пояснюється, як чати користувачів можуть зберігатися за певних обставин, а також викладено політику компанії щодо налаштувань навчання моделей. У цих умовах також описано, як користувачі можуть керувати певними налаштуваннями даних, підкреслюючи важливість розуміння того, як постачальники ШІ зберігають, обробляють та використовують інформацію, якою користувачі діляться через їхні сервіси.

Окрім випадкового розкриття інформації, зловмисники також використовують зростаючу довіру до платформ штучного інтелекту в своїх зловмисних кампаніях. Кампанія з використанням шкідливого програмного забезпечення Openclaw була спрямована на викрадення паролів та криптогаманців шляхом маскування під легітимне програмне забезпечення ШІ з метою викрадення конфіденційних даних користувачів. Ця кампанія підкреслює, як злочинці дедалі частіше використовують популярність інструментів ШІ, що підкреслює важливість зберігання приватних файлів, облікових даних та фінансових записів поза межами загальнодоступних сервісів.

Регулюючі органи продовжують перевіряти практики ШІ щодо конфіденційності

Федеральна торгова комісія США (FTC) у своїх рекомендаціях щодо зобов’язань з питань конфіденційності та захисту даних у сфері ШІ попередила, що компанії, які розробляють продукти на основі генеративного ШІ, повинні дотримуватися обіцянок щодо збору, зберігання та використання інформації про споживачів та підприємства.

Пізніше агентство розпочало розслідування щодо практик обробки даних чат-ботами на базі ШІ, вивчаючи, як кілька провайдерів збирають, зберігають, розкривають та монетизують інформацію, отриману під час розмов із чат-ботами. Регулюючі органи запросили детальну інформацію щодо політик зберігання даних, заходів захисту користувачів та внутрішніх запобіжних заходів, оскільки чиновники оцінюють, чи існуючі закони про конфіденційність споживачів адекватно враховують стрімке поширення генеративних послуг на базі ШІ.

Ставки можуть зрости, оскільки Claude та ChatGPT набувають можливостей роботи в блокчейні, розширюючи сферу застосування систем штучного інтелекту за межі генерації тексту до пов’язаних фінансових послуг та управління цифровими активами. У міру того, як чат-боти починають взаємодіяти з криптовалютними гаманцями, децентралізованими фінансовими додатками та іншими онлайн-рахунками, проблеми конфіденційності та безпеки виходять за межі історії розмов і поширюються на активи, транзакції та права доступу до рахунків.

Перегляд спільних розмов

Кожен, хто створював посилання на обмін у Claude, повинен переглянути активні розмови в налаштуваннях конфіденційності платформи, видалити посилання, які більше не потрібні, та уникати публікації відкритих URL-адрес, що містять конфіденційну інформацію.

Результати пошуку в Google можуть швидко зникнути, хоча скопійовані посилання, архівні сторінки, знімки екрана та збережені закладки можуть залишатися доступними після того, як пошукові системи видалять індексовані результати.

Дослідники також задокументували методи атак агентів штучного інтелекту, здатні експлуатувати підключені системи, продемонструвавши, як зловмисники можуть маніпулювати інструментами штучного інтелекту, що мають доступ до браузерів, електронних поштових облікових записів, хмарних сховищ та фінансових послуг. Отримані результати підкреслюють важливість обмеження доступу чат-ботів до конфіденційних файлів, облікових даних та фінансових рахунків, а також регулярного перегляду дозволів, наданих додаткам ШІ, що інтегруються з особистими або бізнес-даними.