Ihre KI-Chats tauchen möglicherweise in der Google-Suche auf – eine bestimmte Freigabefunktion hat dies ermöglicht

Geteilte KI-Unterhaltungen wurden durchsuchbar

Berichten zufolge tauchten Hunderte von Claude-AI-Konversationen im Internet auf, nachdem Reddit-Nutzer entdeckt hatten, dass die Suche nach „site:claude.ai/share“ öffentlich zugängliche Chats zutage förderte, die Rechtsberatung, technische Arbeiten und persönliche Diskussionen enthielten, wie aus einem Bericht von Cyber Security News über die offengelegten geteilten Claude-AI-Chats hervorgeht.

Claude ist der KI-Assistent von Anthropic, der für Programmierung, Schreiben, Recherche und Aufgaben am Arbeitsplatz genutzt wird. Seine Freigabefunktion erstellt öffentliche URLs, die Nutzer an andere senden können. Dem Bericht zufolge fehlten diesen Seiten jedoch Schutzmaßnahmen, die Suchmaschinen daran hinderten, sie zu indexieren, nachdem sich die Links über Foren, soziale Medien oder andere öffentliche Websites verbreitet hatten.

Die Google-Suchergebnisse für die betroffenen Seiten sind größtenteils verschwunden, was auf eine schnelle Deindexierung oder Änderungen hinter den Kulissen hindeutet, obwohl zuvor gespeicherte oder als Lesezeichen gespeicherte Links weiterhin zugänglich bleiben könnten, sofern Anthropic sie nicht serverseitig widerruft.

Die Entdeckung hat die Kritik daran neu entfacht, wie KI-Unternehmen sensible Informationen schützen. Der Vorfall ereignet sich Monate nach einer weiteren Offenlegung von Anthropic-Quellcode im Zusammenhang mit „Claude Code“ und unterstreicht damit weitreichendere Bedenken hinsichtlich der Sicherheit und des Datenschutzes von KI-Plattformen, die Nutzerdaten verarbeiten.

Vertrauliche Informationen fließen zunehmend in KI-Tools ein

Fachleute verlassen sich zunehmend auf KI-Assistenten, um Verträge zu prüfen, proprietäre Software zu debuggen, Geschäftsdokumente zu analysieren, Finanzunterlagen zu organisieren und persönliche Angelegenheiten zu besprechen, wodurch wertvolle Daten in Chatbot-Gespräche gelangen.

Finanzdaten stellen eine weitere Kategorie gefährdeter privater Informationen dar. Ein Bitcoin-Inhaber vertraute bei der Wiederherstellung einer verlorenen Wallet mit 5 BTC sogar auf Claude, indem er Computerdateien, Notizbücher und Sicherungsaufzeichnungen aus mehreren Jahren hochlud. Der Fall veranschaulicht, wie Nutzer KI-Systemen zunehmend vertrauliche Finanzdaten anvertrauen, die digitale Vermögenswerte gefährden könnten, sollten Unterhaltungen oder geteilte Links öffentlich zugänglich werden.

Die Nutzungsbedingungen von Anthropic, die sich auf die Aufbewahrung von Unterhaltungen und das Modelltraining beziehen, erläutern, wie Nutzerchats unter bestimmten Umständen aufbewahrt werden können, und beschreiben die Richtlinien des Unternehmens hinsichtlich der Präferenzen für das Modelltraining. Die Bedingungen beschreiben zudem, wie Nutzer bestimmte Dateneinstellungen verwalten können, und unterstreichen dabei, wie wichtig es ist, zu verstehen, wie KI-Anbieter die über ihre Dienste geteilten Informationen speichern, verarbeiten und nutzen.

Über die versehentliche Offenlegung hinaus nutzen Angreifer das wachsende Vertrauen in KI-Plattformen auch durch böswillige Kampagnen aus. Eine „Openclaw“-Malware-Kampagne zielte auf Passwörter und Krypto-Wallets ab, indem sie sich als legitime KI-Software ausgab, um sensible Nutzerdaten zu stehlen. Die Kampagne unterstreicht, wie Kriminelle die Beliebtheit von KI-Tools zunehmend ausnutzen, und verdeutlicht, wie wichtig es ist, private Dateien, Zugangsdaten und Finanzunterlagen von öffentlich zugänglichen Diensten fernzuhalten.

Aufsichtsbehörden prüfen weiterhin Datenschutzpraktiken im KI-Bereich

Die US-amerikanische Federal Trade Commission (FTC) warnte in ihren Leitlinien zu Datenschutz- und Vertraulichkeitsverpflichtungen im Bereich KI, dass Unternehmen, die generative KI-Produkte entwickeln, ihre Zusagen hinsichtlich der Erhebung, Speicherung und Nutzung von Verbraucher- und Unternehmensdaten einhalten sollten.

Die Behörde leitete später eine Untersuchung zu den Datenpraktiken von KI-Chatbots ein, um zu prüfen, wie verschiedene Anbieter Informationen, die durch Chatbot-Gespräche gewonnen werden, erheben, speichern, weitergeben und monetarisieren. Die Aufsichtsbehörden forderten Einzelheiten zu Richtlinien zur Datenspeicherung, zum Nutzerschutz und zu internen Sicherheitsvorkehrungen an, während die Beamten prüfen, ob bestehende Verbraucherschutzgesetze der raschen Verbreitung generativer KI-Dienste angemessen Rechnung tragen.

Die Bedeutung dieser Thematik könnte zunehmen, da Claude und ChatGPT On-Chain-Fähigkeiten erhalten und KI-Systeme über die Textgenerierung hinaus auf vernetzte Finanzdienstleistungen und die Verwaltung digitaler Vermögenswerte ausgeweitet werden. Da Chatbots zunehmend mit Kryptowährungs-Wallets, dezentralen Finanzanwendungen und anderen Online-Konten interagieren, erstrecken sich Datenschutz- und Sicherheitsbedenken nicht mehr nur auf den Gesprächsverlauf, sondern auch auf Vermögenswerte, Transaktionen und Kontoberechtigungen.

Überprüfung geteilter Unterhaltungen

Jeder, der Claude-Freigabelinks erstellt hat, sollte aktive Unterhaltungen in den Datenschutzeinstellungen der Plattform überprüfen, nicht mehr benötigte Links entfernen und es vermeiden, öffentliche URLs zu veröffentlichen, die vertrauliches Material enthalten.

Einträge in den Google-Suchergebnissen können schnell verschwinden, doch kopierte Links, archivierte Seiten, Screenshots und gespeicherte Lesezeichen können auch dann noch verfügbar sein, wenn Suchmaschinen die indexierten Ergebnisse entfernen. Forscher haben zudem Angriffstechniken von KI-Agenten dokumentiert, mit denen vernetzte Systeme ausgenutzt werden können. Sie zeigen, wie böswillige Akteure KI-Tools manipulieren können, die Zugriff auf Browser, E-Mail-Konten, Cloud-Speicher und Finanzdienste haben. Die Ergebnisse unterstreichen, wie wichtig es ist, den Zugriff von Chatbots auf sensible Dateien, Zugangsdaten und Finanzkonten einzuschränken und regelmäßig die Berechtigungen zu überprüfen, die KI-Anwendungen gewährt werden, die mit persönlichen oder geschäftlichen Daten integriert sind.