Ваши чаты с ИИ могут появляться в поиске Google — это стало возможным благодаря одной функции обмена

Общие беседы с ИИ стали доступны для поиска

Согласно отчету Cyber Security News о раскрытых общедоступных чатах Claude AI, сотни бесед с ИИ Claude, как сообщается, появились в сети после того, как пользователи Reddit обнаружили, что поиск по запросу «site:claude.ai/share» выводил общедоступные чаты, содержащие юридические консультации, инженерные работы и личные обсуждения.

Claude — это помощник на базе искусственного интеллекта от компании Anthropic, используемый для программирования, написания текстов, исследований и выполнения рабочих задач. Его функция обмена создает общедоступные URL-адреса, которые пользователи могут отправлять другим, хотя в отчете указывается, что эти страницы не были защищены от индексации поисковыми системами после того, как ссылки распространились через форумы, социальные сети или другие общедоступные веб-сайты.

Результаты поиска Google по затронутым страницам в основном исчезли, что свидетельствует о быстром удалении из индекса или изменениях, происходящих «за кулисами», хотя ранее сохраненные или добавленные в закладки ссылки могут оставаться доступными, если компания Anthropic не отменит их на стороне сервера.

Это открытие вновь привлекло внимание к тому, как компании, занимающиеся искусственным интеллектом, защищают конфиденциальную информацию. Инцидент произошел через несколько месяцев после другого случая утечки исходного кода Anthropic, связанного с Claude Code, что подчеркивает более широкие опасения относительно безопасности и конфиденциальности платформ искусственного интеллекта, обрабатывающих пользовательские данные.

Конфиденциальная информация всё чаще попадает в инструменты ИИ

Профессионалы все чаще полагаются на ИИ-помощников при проверке контрактов, отладке проприетарного программного обеспечения, анализе деловых документов, систематизации финансовой отчетности и обсуждении личных вопросов, в результате чего ценные данные попадают в диалоги с чат-ботами.

Финансовые данные представляют собой еще одну категорию конфиденциальной информации, подверженной риску. Один владелец биткойнов даже доверился Claude во время восстановления утерянного кошелька с 5 BTC, загрузив многолетние компьютерные файлы, записные книжки и резервные копии. Этот случай иллюстрирует, как пользователи все чаще доверяют системам ИИ конфиденциальные финансовые данные, которые могут привести к раскрытию цифровых активов, если переписка или общие ссылки станут общедоступными.

Условия использования Anthropic для потребителей, касающиеся хранения диалогов и обучения моделей, объясняют, как чаты пользователей могут сохраняться при определенных обстоятельствах, и описывают политику компании, регулирующую настройки обучения моделей. В условиях также описано, как пользователи могут управлять определенными настройками данных, что подчеркивает важность понимания того, как поставщики ИИ хранят, обрабатывают и используют информацию, передаваемую через их сервисы.

Помимо случайного раскрытия информации, злоумышленники также используют растущее доверие к платформам ИИ в своих вредоносных кампаниях. Кампания с использованием вредоносного ПО Openclaw была направлена на кражу паролей и криптовалютных кошельков путем маскировки под легитимное программное обеспечение ИИ с целью похищения конфиденциальных данных пользователей. Эта кампания подчеркивает, как преступники все чаще используют популярность инструментов ИИ в своих целях, что еще раз подтверждает важность хранения личных файлов, учетных данных и финансовой документации вне общедоступных сервисов.

Регулирующие органы продолжают анализировать практики обеспечения конфиденциальности в сфере ИИ

Федеральная торговая комиссия США (FTC) в своих рекомендациях по обязательствам в области конфиденциальности и защиты данных при использовании ИИ предупредила, что компании, разрабатывающие продукты на основе генеративного ИИ, должны соблюдать обещания, регулирующие сбор, хранение и использование информации о потребителях и предприятиях.

Позже ведомство инициировало расследование практик обращения с данными чат-ботов на базе ИИ, изучая, как несколько провайдеров собирают, хранят, раскрывают и монетизируют информацию, полученную в ходе общения с чат-ботами. Регулирующие органы запросили подробную информацию о политиках хранения данных, мерах защиты пользователей и внутренних механизмах безопасности, поскольку чиновники оценивают, адекватно ли существующее законодательство о конфиденциальности потребителей учитывает быстрое внедрение сервисов генеративного ИИ.

Ставки могут повыситься по мере того, как Claude и ChatGPT обретают возможности работы в блокчейне, расширяя сферу применения систем ИИ за пределы генерации текста и охватывая связанные финансовые услуги и управление цифровыми активами. По мере того как чат-боты начинают взаимодействовать с криптовалютными кошельками, приложениями децентрализованных финансов и другими онлайн-аккаунтами, проблемы конфиденциальности и безопасности выходят за рамки истории разговоров и затрагивают активы, транзакции и права доступа к аккаунтам.

Проверка общих бесед

Каждому, кто создавал ссылки для совместного доступа в Claude, следует проверить активные беседы в настройках конфиденциальности платформы, удалить ненужные ссылки и избегать публикации открытых URL-адресов, содержащих конфиденциальную информацию.

Результаты поиска в Google могут быстро исчезнуть, хотя скопированные ссылки, заархивированные страницы, скриншоты и сохраненные закладки могут оставаться доступными после того, как поисковые системы удалят проиндексированные результаты.

Исследователи также задокументировали методы атак ИИ-агентов, способные эксплуатировать подключенные системы, продемонстрировав, как злоумышленники могут манипулировать инструментами ИИ, имеющими доступ к браузерам, учетным записям электронной почты, облачным хранилищам и финансовым сервисам. Полученные результаты подчеркивают важность ограничения доступа чат-ботов к конфиденциальным файлам, учетным данным и финансовым счетам, а также регулярного пересмотра разрешений, предоставленных приложениям ИИ, интегрированным с личными или бизнес-данными.