Các cuộc trò chuyện AI của bạn có thể xuất hiện trong kết quả tìm kiếm của Google — Một tính năng chia sẻ đã biến điều đó thành hiện thực

Các cuộc trò chuyện AI được chia sẻ có thể tìm kiếm được

Theo báo cáo của Cyber Security News về các cuộc trò chuyện được chia sẻ của Claude AI bị lộ, hàng trăm cuộc trò chuyện của Claude AI đã xuất hiện trên mạng sau khi người dùng Reddit phát hiện ra rằng việc tìm kiếm "site:claude.ai/share" sẽ hiển thị các cuộc trò chuyện có thể truy cập công khai, chứa các nội dung tư vấn pháp lý, công việc kỹ thuật và các cuộc thảo luận cá nhân.

Claude là trợ lý trí tuệ nhân tạo của Anthropic được sử dụng cho lập trình, viết lách, nghiên cứu và các tác vụ tại nơi làm việc. Tính năng chia sẻ của nó tạo ra các URL công khai mà người dùng có thể gửi cho người khác, mặc dù báo cáo chỉ ra rằng các trang này thiếu các biện pháp bảo vệ ngăn chặn các công cụ tìm kiếm lập chỉ mục chúng sau khi các liên kết lan truyền qua các diễn đàn, mạng xã hội hoặc các trang web công khai khác.

Kết quả tìm kiếm của Google cho các trang bị ảnh hưởng đã gần như biến mất, cho thấy việc loại bỏ khỏi chỉ mục diễn ra nhanh chóng hoặc có những thay đổi phía sau hậu trường, mặc dù các liên kết đã được lưu trước đó hoặc được đánh dấu trang vẫn có thể truy cập được trừ khi Anthropic thu hồi chúng từ phía máy chủ.

Phát hiện này đã làm dấy lên sự giám sát mới về cách các công ty AI bảo vệ thông tin nhạy cảm. Sự cố này xảy ra vài tháng sau một vụ rò rỉ mã nguồn khác của Anthropic liên quan đến Claude Code, làm nổi bật những lo ngại rộng hơn về bảo mật và quyền riêng tư của các nền tảng AI xử lý dữ liệu người dùng.

Thông tin nhạy cảm ngày càng đổ dồn vào các công cụ AI

Các chuyên gia ngày càng phụ thuộc vào trợ lý AI để xem xét hợp đồng, gỡ lỗi phần mềm độc quyền, phân tích tài liệu kinh doanh, sắp xếp hồ sơ tài chính và thảo luận về các vấn đề cá nhân, từ đó đưa dữ liệu có giá trị vào các cuộc trò chuyện với chatbot.

Dữ liệu tài chính là một loại thông tin riêng tư khác đang đối mặt với rủi ro. Một chủ sở hữu Bitcoin thậm chí đã tin tưởng sử dụng Claude trong quá trình khôi phục ví 5 BTC bị mất bằng cách tải lên các tệp máy tính, sổ ghi chép và bản sao lưu trong nhiều năm. Trường hợp này minh họa cách người dùng ngày càng tin tưởng giao phó các chi tiết tài chính bí mật cho hệ thống AI, điều có thể khiến tài sản kỹ thuật số bị lộ nếu các cuộc trò chuyện hoặc liên kết chia sẻ trở nên công khai.

Điều khoản dành cho người tiêu dùng của Anthropic về việc lưu trữ cuộc trò chuyện và đào tạo mô hình giải thích cách các cuộc trò chuyện của người dùng có thể được lưu trữ trong một số trường hợp nhất định và nêu rõ các chính sách của công ty về các tùy chọn đào tạo mô hình. Các điều khoản này cũng mô tả cách người dùng có thể quản lý một số cài đặt dữ liệu, nhấn mạnh tầm quan trọng của việc hiểu cách các nhà cung cấp AI lưu trữ, xử lý và sử dụng thông tin được chia sẻ qua dịch vụ của họ.

Ngoài việc lộ thông tin do vô ý, các kẻ tấn công còn lợi dụng sự tin tưởng ngày càng tăng vào các nền tảng AI thông qua các chiến dịch độc hại. Một chiến dịch phần mềm độc hại Openclaw đã nhắm vào mật khẩu và ví tiền điện tử bằng cách mạo danh phần mềm AI hợp pháp để đánh cắp dữ liệu nhạy cảm của người dùng. Chiến dịch này nhấn mạnh việc tội phạm ngày càng khai thác sự phổ biến của các công cụ AI, đồng thời củng cố tầm quan trọng của việc giữ các tệp tin riêng tư, thông tin đăng nhập và hồ sơ tài chính tránh xa các dịch vụ có thể truy cập công khai.

Các cơ quan quản lý tiếp tục xem xét các thực tiễn về quyền riêng tư của AI

Ủy ban Thương mại Liên bang Hoa Kỳ (FTC) đã cảnh báo trong hướng dẫn về các cam kết bảo mật và bảo vệ quyền riêng tư của AI rằng các công ty phát triển sản phẩm AI tạo sinh cần tuân thủ các cam kết liên quan đến cách thu thập, lưu trữ và sử dụng thông tin của người tiêu dùng và doanh nghiệp.

Sau đó, cơ quan này đã khởi xướng một cuộc điều tra về các thực hành xử lý dữ liệu của chatbot AI, xem xét cách các nhà cung cấp thu thập, lưu trữ, tiết lộ và khai thác thông tin thu được qua các cuộc trò chuyện với chatbot. Các cơ quan quản lý đã yêu cầu cung cấp chi tiết về chính sách lưu trữ dữ liệu, các biện pháp bảo vệ người dùng và các biện pháp bảo mật nội bộ, trong bối cảnh các quan chức đánh giá liệu các luật bảo vệ quyền riêng tư hiện hành có đủ khả năng ứng phó với sự phổ biến nhanh chóng của các dịch vụ AI tạo sinh hay không.

Rủi ro có thể gia tăng khi Claude và ChatGPT có được các khả năng trên chuỗi, mở rộng các hệ thống AI vượt ra ngoài việc tạo văn bản sang các dịch vụ tài chính kết nối và quản lý tài sản kỹ thuật số. Khi các chatbot bắt đầu tương tác với ví tiền điện tử, các ứng dụng tài chính phi tập trung và các tài khoản trực tuyến khác, các lo ngại về quyền riêng tư và bảo mật không chỉ giới hạn ở lịch sử cuộc trò chuyện mà còn mở rộng sang tài sản, giao dịch và quyền truy cập tài khoản.

Xem lại các cuộc trò chuyện đã chia sẻ

Bất kỳ ai đã tạo liên kết chia sẻ trên Claude đều nên xem lại các cuộc trò chuyện đang diễn ra trong cài đặt quyền riêng tư của nền tảng, xóa các liên kết không còn cần thiết và tránh đăng các URL công khai chứa thông tin bí mật.

Các kết quả tìm kiếm trên Google có thể biến mất nhanh chóng, mặc dù các liên kết đã sao chép, trang lưu trữ, ảnh chụp màn hình và dấu trang đã lưu vẫn có thể tiếp tục tồn tại sau khi các công cụ tìm kiếm xóa các kết quả đã lập chỉ mục.

Các nhà nghiên cứu cũng đã ghi nhận các kỹ thuật tấn công của các tác nhân AI có khả năng khai thác các hệ thống kết nối, minh họa cách các tác nhân độc hại có thể thao túng các công cụ AI có quyền truy cập vào trình duyệt, tài khoản email, lưu trữ đám mây và dịch vụ tài chính. Các phát hiện này nhấn mạnh tầm quan trọng của việc hạn chế quyền truy cập của chatbot vào các tệp nhạy cảm, thông tin đăng nhập và tài khoản tài chính, đồng thời thường xuyên rà soát các quyền được cấp cho các ứng dụng AI tích hợp với dữ liệu cá nhân hoặc doanh nghiệp.