Twoje rozmowy z botami AI mogą pojawiać się w wynikach wyszukiwania Google — umożliwiła to jedna funkcja udostępniania

Udostępnione rozmowy z AI stały się dostępne w wynikach wyszukiwania

Według doniesień serwisu Cyber Security News dotyczących ujawnionych rozmów udostępnionych przez Claude AI, setki rozmów z Claude AI pojawiły się w sieci po tym, jak użytkownicy Reddita odkryli, że wyszukiwanie frazy „site:claude.ai/share” powodowało wyświetlenie publicznie dostępnych czatów zawierających porady prawne, prace inżynierskie oraz dyskusje o charakterze osobistym.

Claude to asystent oparty na sztucznej inteligencji firmy Anthropic, wykorzystywany do kodowania, pisania, badań i zadań związanych z pracą. Jego funkcja udostępniania tworzy publiczne adresy URL, które użytkownicy mogą wysyłać innym, chociaż raport wskazał, że strony te nie posiadały zabezpieczeń uniemożliwiających indeksowanie ich przez wyszukiwarki po tym, jak linki rozprzestrzeniły się na forach, w mediach społecznościowych lub na innych publicznych stronach internetowych.

Wyniki wyszukiwania Google dla tych stron w dużej mierze zniknęły, co sugeruje szybkie usunięcie z indeksu lub zmiany za kulisami, choć wcześniej zapisane lub dodane do zakładek linki mogą pozostać dostępne, o ile firma Anthropic nie unieważni ich po stronie serwera.

To odkrycie ponownie zwróciło uwagę na sposób, w jaki firmy zajmujące się sztuczną inteligencją chronią poufne informacje. Incydent ten miał miejsce kilka miesięcy po innym ujawnieniu kodu źródłowego firmy Anthropic, dotyczącym narzędzia Claude Code, co podkreśla szersze obawy dotyczące bezpieczeństwa i prywatności platform AI przetwarzających dane użytkowników.

Coraz więcej poufnych informacji trafia do narzędzi opartych na sztucznej inteligencji

Specjaliści w coraz większym stopniu polegają na asystentach AI przy przeglądaniu umów, debugowaniu własnego oprogramowania, analizowaniu dokumentów biznesowych, porządkowaniu dokumentacji finansowej oraz omawianiu spraw osobistych, umieszczając cenne dane w rozmowach z chatbotami.

Dane finansowe stanowią kolejną kategorię informacji prywatnych narażonych na ryzyko. Jeden z posiadaczy bitcoinów polegał nawet na Claude’u podczas odzyskiwania utraconego portfela zawierającego 5 BTC, przesyłając wieloletnie pliki komputerowe, notatniki i kopie zapasowe. Przypadek ten ilustruje, w jaki sposób użytkownicy coraz częściej powierzają systemom AI poufne dane finansowe, które mogą narazić aktywa cyfrowe na niebezpieczeństwo, jeśli rozmowy lub udostępnione linki staną się publicznie dostępne.

Warunki korzystania z usług firmy Anthropic dotyczące przechowywania rozmów i szkolenia modeli wyjaśniają, w jaki sposób rozmowy użytkowników mogą być przechowywane w określonych okolicznościach, oraz przedstawiają zasady firmy regulujące preferencje dotyczące szkolenia modeli. Warunki te opisują również, w jaki sposób użytkownicy mogą zarządzać niektórymi ustawieniami dotyczącymi danych, podkreślając znaczenie zrozumienia, w jaki sposób dostawcy usług opartych na sztucznej inteligencji przechowują, przetwarzają i wykorzystują informacje udostępniane za pośrednictwem ich usług.

Oprócz przypadkowego ujawnienia danych, cyberprzestępcy wykorzystują również rosnące zaufanie do platform AI poprzez złośliwe kampanie. Kampania złośliwego oprogramowania Openclaw była wymierzona w hasła i portfele kryptowalutowe poprzez podszywanie się pod legalne oprogramowanie AI w celu kradzieży wrażliwych danych użytkowników. Kampania ta podkreśla, w jaki sposób przestępcy w coraz większym stopniu wykorzystują popularność narzędzi AI, co dodatkowo uwydatnia znaczenie przechowywania prywatnych plików, danych uwierzytelniających i dokumentacji finansowej z dala od usług dostępnych publicznie.

Organy regulacyjne nadal analizują praktyki dotyczące prywatności w sztucznej inteligencji

Amerykańska Federalna Komisja Handlu (FTC) ostrzegła w swoich wytycznych dotyczących zobowiązań w zakresie prywatności i poufności w sztucznej inteligencji, że firmy opracowujące produkty oparte na generatywnej sztucznej inteligencji powinny dotrzymywać obietnic dotyczących sposobu gromadzenia, przechowywania i wykorzystywania informacji o konsumentach i przedsiębiorstwach.

Agencja wszczęła następnie dochodzenie w sprawie praktyk dotyczących danych stosowanych przez chatboty oparte na sztucznej inteligencji, badając, w jaki sposób kilku dostawców gromadzi, przechowuje, ujawnia i monetyzuje informacje uzyskane w trakcie rozmów prowadzonych przez chatboty. Organy regulacyjne zwróciły się o szczegółowe informacje na temat polityki przechowywania danych, środków ochrony użytkowników oraz wewnętrznych zabezpieczeń, ponieważ urzędnicy oceniają, czy istniejące przepisy dotyczące prywatności konsumentów odpowiednio uwzględniają szybkie upowszechnianie się usług generatywnej sztucznej inteligencji.

Stawka może wzrosnąć, gdy Claude i ChatGPT zyskają możliwości działania w łańcuchu bloków, rozszerzając systemy sztucznej inteligencji poza generowanie tekstu na połączone usługi finansowe i zarządzanie aktywami cyfrowymi. W miarę jak chatboty zaczynają wchodzić w interakcje z portfelami kryptowalutowymi, zdecentralizowanymi aplikacjami finansowymi i innymi kontami internetowymi, obawy dotyczące prywatności i bezpieczeństwa wykraczają poza historię rozmów, obejmując aktywa, transakcje i uprawnienia do kont.

Przegląd udostępnionych rozmów

Każdy, kto utworzył linki do udostępniania w Claude, powinien przejrzeć aktywne rozmowy w ustawieniach prywatności platformy, usunąć linki, które nie są już potrzebne, oraz unikać publikowania publicznych adresów URL zawierających poufne materiały.

Wyniki wyszukiwania w Google mogą szybko zniknąć, chociaż skopiowane linki, zarchiwizowane strony, zrzuty ekranu i zapisane zakładki mogą pozostać dostępne nawet po usunięciu zindeksowanych wyników przez wyszukiwarki.

Badacze udokumentowali również techniki ataków agentów AI zdolnych do wykorzystywania połączonych systemów, pokazując, w jaki sposób złośliwi aktorzy mogą manipulować narzędziami AI, które mają dostęp do przeglądarek, kont e-mail, pamięci w chmurze i usług finansowych. Wyniki tych badań podkreślają znaczenie ograniczenia dostępu chatbotów do poufnych plików, danych uwierzytelniających i kont finansowych, a także regularnego sprawdzania uprawnień przyznanych aplikacjom opartym na sztucznej inteligencji, które integrują się z danymi osobistymi lub biznesowymi.