Dine AI-chats dukker muligvis op i Google-søgningen — en delingsfunktion har gjort det muligt

Delte AI-samtaler blev søgbare

Ifølge en rapport fra Cyber Security News om de eksponerede delte Claude AI-samtaler dukkede hundredvis af Claude AI-samtaler angiveligt op online, efter at Reddit-brugere opdagede, at en søgning på "site:claude.ai/share" frembragte offentligt tilgængelige samtaler, der indeholdt juridisk rådgivning, ingeniørarbejde og personlige diskussioner.

Claude er Anthropics kunstige intelligens-assistent, der bruges til kodning, skrivning, forskning og arbejdsopgaver. Dens delingsfunktion opretter offentlige URL'er, som brugerne kan sende til andre, selvom rapporten angav, at disse sider manglede beskyttelse, der forhindrer søgemaskiner i at indeksere dem, efter at linkene blev spredt via fora, sociale medier eller andre offentlige hjemmesider.

Googles søgeresultater for de berørte sider er stort set forsvundet, hvilket tyder på en hurtig fjernelse fra indekseringen eller ændringer bag kulisserne, selvom tidligere gemte eller bogmærkede links muligvis stadig er tilgængelige, medmindre Anthropic tilbagekalder dem på serversiden.

Opdagelsen har sat fornyet fokus på, hvordan AI-virksomheder beskytter følsomme oplysninger. Hændelsen kommer måneder efter en anden lækage af Anthropics kildekode, der involverede Claude Code, hvilket understreger bredere bekymringer om sikkerheden og privatlivsbeskyttelsen på AI-platforme, der håndterer brugerdata.

Følsomme oplysninger strømmer i stigende grad ind i AI-værktøjer

Fagfolk stoler i stigende grad på AI-assistenter til at gennemgå kontrakter, fejlfinde proprietær software, analysere forretningsdokumenter, organisere regnskaber og drøfte personlige anliggender, hvilket placerer værdifulde data i chatbot-samtaler.

Finansielle data udgør en anden kategori af private oplysninger, der er i fare. En bitcoin-indehaver stolede endda på Claude under genoprettelsen af en mistet 5 BTC-tegnebog ved at uploade års computerfiler, notesbøger og sikkerhedskopier. Sagen illustrerer, hvordan brugere i stigende grad betror AI-systemer fortrolige finansielle oplysninger, der kan udsætte digitale aktiver for risiko, hvis samtaler eller delte links bliver offentligt tilgængelige.

Anthropics forbrugervilkår vedrørende opbevaring af samtaler og modeltræning forklarer, hvordan forbrugersamtaler kan opbevares under visse omstændigheder, og beskriver virksomhedens politikker for præferencer i forbindelse med modeltræning. Vilkårene beskriver også, hvordan brugere kan administrere visse dataindstillinger, hvilket understreger vigtigheden af at forstå, hvordan AI-udbydere lagrer, behandler og bruger oplysninger, der deles via deres tjenester.

Ud over utilsigtet eksponering udnytter angribere også den voksende tillid til AI-platforme gennem ondsindede kampagner. En Openclaw-malwarekampagne rettede sig mod adgangskoder og kryptotegnebøger ved at udgive sig for at være legitim AI-software for at stjæle følsomme brugerdata. Kampagnen understreger, hvordan kriminelle i stigende grad udnytter AI-værktøjers popularitet, hvilket understreger vigtigheden af at holde private filer, adgangskoder og økonomiske oplysninger væk fra offentligt tilgængelige tjenester.

Tilsynsmyndighederne fortsætter med at undersøge AI-praksis vedrørende privatliv

Den amerikanske Federal Trade Commission (FTC) advarede i sine retningslinjer om AI-privatlivs- og fortrolighedsforpligtelser om, at virksomheder, der udvikler generative AI-produkter, bør overholde løfterne om, hvordan forbruger- og forretningsoplysninger indsamles, opbevares og anvendes.

Myndigheden iværksatte senere en undersøgelse af datapraksis i forbindelse med AI-chatbots, hvor man undersøger, hvordan flere udbydere indsamler, opbevarer, videregiver og tjener penge på oplysninger indhentet gennem chatbot-samtaler. Tilsynsmyndighederne anmodede om detaljer om politikker for dataopbevaring, brugerbeskyttelse og interne sikkerhedsforanstaltninger, mens embedsmændene vurderer, om eksisterende love om forbrugerprivatliv i tilstrækkelig grad imødekommer den hurtige udbredelse af generative AI-tjenester.

Indsatsen kan blive endnu større, efterhånden som Claude og ChatGPT får on-chain-funktioner, hvilket udvider AI-systemerne fra tekstgenerering til forbundne finansielle tjenester og forvaltning af digitale aktiver. I takt med at chatbots begynder at interagere med kryptovaluta-tegnebøger, decentraliserede finansapplikationer og andre onlinekonti, strækker bekymringerne om privatliv og sikkerhed sig ud over samtalehistorikken til at omfatte aktiver, transaktioner og kontotilladelser.

Gennemgang af delte samtaler

Alle, der har oprettet Claude-delingslinks, bør gennemgå aktive samtaler i platformens privatlivsindstillinger, fjerne links, der ikke længere er nødvendige, og undgå at offentliggøre URL'er, der indeholder fortroligt materiale.

Resultater i Googles søgeresultater kan hurtigt forsvinde, selvom kopierede links, arkiverede sider, skærmbilleder og gemte bogmærker kan forblive tilgængelige, efter at søgemaskinerne har fjernet de indekserede resultater.

Forskere har også dokumenteret angrebsteknikker fra AI-agenter, der er i stand til at udnytte forbundne systemer, hvilket viser, hvordan ondsindede aktører kan manipulere AI-værktøjer, der har adgang til browsere, e-mail-konti, cloud-lagring og finansielle tjenester. Resultaterne understreger vigtigheden af at begrænse chatbots adgang til følsomme filer, loginoplysninger og finansielle konti, samtidig med at man regelmæssigt gennemgår de tilladelser, der er tildelt AI-applikationer, der integreres med personlige eller forretningsmæssige data.