Je AI-chats verschijnen mogelijk in Google Zoeken — één functie voor het delen heeft dit mogelijk gemaakt

Gedeelde AI-gesprekken werden doorzoekbaar

Honderden Claude AI-gesprekken verschenen naar verluidt online nadat Reddit-gebruikers ontdekten dat het zoeken op "site:claude.ai/share" openbaar toegankelijke chats aan het licht bracht met juridisch advies, technisch werk en persoonlijke discussies, volgens het rapport van Cyber Security News over de blootgestelde gedeelde Claude AI-chats.

Claude is de kunstmatige-intelligentie-assistent van Anthropic die wordt gebruikt voor coderen, schrijven, onderzoek en taken op de werkplek. De deel-functie genereert openbare URL’s die gebruikers naar anderen kunnen sturen, hoewel uit het rapport bleek dat deze pagina’s geen beveiliging hadden die voorkwam dat zoekmachines ze indexeerden nadat de links via forums, sociale media of andere openbare websites waren verspreid.

De zoekresultaten van Google voor de getroffen pagina’s zijn grotendeels verdwenen, wat duidt op een snelle verwijdering uit de index of wijzigingen achter de schermen, hoewel eerder opgeslagen of als bladwijzer opgeslagen links toegankelijk kunnen blijven, tenzij Anthropic ze aan de serverzijde intrekt.

De ontdekking heeft de aandacht opnieuw gevestigd op de manier waarop AI-bedrijven gevoelige informatie beschermen. Het incident volgt enkele maanden na een andere onthulling van broncode van Anthropic met betrekking tot Claude Code, wat de bredere bezorgdheid onderstreept over de beveiliging en privacy van AI-platforms die gebruikersgegevens verwerken.

Gevoelige informatie stroomt in toenemende mate naar AI-tools

Professionals vertrouwen steeds meer op AI-assistenten voor het beoordelen van contracten, het opsporen van fouten in eigen software, het analyseren van zakelijke documenten, het ordenen van financiële gegevens en het bespreken van persoonlijke zaken, waardoor waardevolle gegevens in chatbotgesprekken terechtkomen.

Financiële gegevens vormen een andere categorie van persoonlijke informatie die risico loopt. Een bitcoin-houder vertrouwde zelfs op Claude tijdens het terugvinden van een verloren wallet met 5 BTC door jarenlange computerbestanden, notitieboeken en back-ups te uploaden. Deze zaak illustreert hoe gebruikers steeds vaker vertrouwelijke financiële gegevens toevertrouwen aan AI-systemen, waardoor digitale activa in gevaar kunnen komen als gesprekken of gedeelde links openbaar toegankelijk worden.

In de consumentenvoorwaarden van Anthropic met betrekking tot het bewaren van gesprekken en het trainen van modellen wordt uitgelegd hoe chats van consumenten onder bepaalde omstandigheden kunnen worden bewaard en wordt het beleid van het bedrijf met betrekking tot de voorkeuren voor het trainen van modellen uiteengezet. De voorwaarden beschrijven ook hoe gebruikers bepaalde gegevensinstellingen kunnen beheren, waarbij het belang wordt benadrukt van inzicht in de manier waarop AI-aanbieders informatie die via hun diensten wordt gedeeld, opslaan, verwerken en gebruiken.

Naast onbedoelde blootstelling maken aanvallers ook misbruik van het groeiende vertrouwen in AI-platforms via kwaadaardige campagnes. Een Openclaw-malwarecampagne richtte zich op wachtwoorden en crypto-wallets door zich voor te doen als legitieme AI-software om gevoelige gebruikersgegevens te stelen. De campagne onderstreept hoe criminelen in toenemende mate misbruik maken van de populariteit van AI-tools, wat het belang benadrukt om privébestanden, inloggegevens en financiële gegevens uit de buurt te houden van openbaar toegankelijke diensten.

Toezichthouders blijven AI-privacypraktijken onderzoeken

De Amerikaanse Federal Trade Commission (FTC) waarschuwde in haar richtsnoeren over AI-privacy en vertrouwelijkheidsverplichtingen dat bedrijven die generatieve AI-producten ontwikkelen, hun beloften moeten nakomen met betrekking tot de manier waarop consumenten- en bedrijfsinformatie wordt verzameld, bewaard en gebruikt.

De instantie startte later een onderzoek naar de gegevenspraktijken van AI-chatbots, waarbij wordt onderzocht hoe verschillende aanbieders informatie die via chatbotgesprekken is verkregen, verzamelen, bewaren, openbaar maken en te gelde maken. Regelgevers hebben om details gevraagd over het beleid inzake gegevensbewaring, gebruikersbescherming en interne waarborgen, terwijl ambtenaren beoordelen of de bestaande wetgeving inzake consumentenprivacy voldoende tegemoetkomt aan de snelle opkomst van generatieve AI-diensten.

De inzet zou wel eens kunnen toenemen naarmate Claude en ChatGPT on-chain-mogelijkheden krijgen, waardoor AI-systemen zich uitbreiden van tekstgeneratie naar gekoppelde financiële diensten en het beheer van digitale activa. Nu chatbots interactie aangaan met cryptocurrency-wallets, gedecentraliseerde financiële applicaties en andere online accounts, reiken de zorgen over privacy en veiligheid verder dan alleen de gespreksgeschiedenis en omvatten ze ook activa, transacties en accountrechten.

Gedeelde gesprekken controleren

Iedereen die Claude-deelkoppelingen heeft aangemaakt, dient actieve gesprekken binnen de privacy-instellingen van het platform te controleren, koppelingen te verwijderen die niet langer nodig zijn en te vermijden openbare URL’s te plaatsen die vertrouwelijke informatie bevatten.

Zoekresultaten in Google kunnen snel verdwijnen, hoewel gekopieerde links, gearchiveerde pagina’s, schermafbeeldingen en opgeslagen bladwijzers beschikbaar kunnen blijven nadat zoekmachines geïndexeerde resultaten hebben verwijderd.

Onderzoekers hebben ook aanvalstechnieken van AI-agenten gedocumenteerd waarmee gekoppelde systemen kunnen worden misbruikt. Hiermee wordt aangetoond hoe kwaadwillende actoren AI-tools kunnen manipuleren die toegang hebben tot browsers, e-mailaccounts, cloudopslag en financiële diensten. De bevindingen onderstrepen het belang van het beperken van de toegang van chatbots tot gevoelige bestanden, inloggegevens en financiële rekeningen, en van het regelmatig controleren van de machtigingen die zijn verleend aan AI-toepassingen die zijn geïntegreerd met persoonlijke of zakelijke gegevens.