Le tue conversazioni con l'IA potrebbero comparire nei risultati di ricerca di Google: è stata una funzione di condivisione a renderlo possibile

Le conversazioni condivise su Claude AI sono diventate ricercabili

Secondo quanto riportato da Cyber Security News in merito alle chat condivise di Claude AI esposte, centinaia di conversazioni di Claude AI sarebbero apparse online dopo che alcuni utenti di Reddit hanno scoperto che la ricerca "site:claude.ai/share" faceva emergere chat accessibili al pubblico contenenti consulenza legale, lavori di ingegneria e discussioni personali.

Claude è l’assistente di intelligenza artificiale di Anthropic utilizzato per la programmazione, la scrittura, la ricerca e le attività lavorative. La sua funzione di condivisione crea URL pubblici che gli utenti possono inviare ad altri, sebbene il rapporto indicasse che tali pagine fossero prive di protezioni che impedissero ai motori di ricerca di indicizzarle dopo che i link si erano diffusi attraverso forum, social media o altri siti web pubblici.

I risultati di ricerca di Google relativi alle pagine interessate sono in gran parte scomparsi, il che suggerisce una rapida deindicizzazione o modifiche dietro le quinte, sebbene i link precedentemente salvati o aggiunti ai segnalibri possano rimanere accessibili a meno che Anthropic non li revochi a livello di server.

La scoperta ha riacceso l’attenzione su come le aziende di IA proteggano le informazioni sensibili. L’incidente arriva a pochi mesi da un’altra esposizione del codice sorgente di Anthropic che ha coinvolto Claude Code, mettendo in luce preoccupazioni più ampie riguardo alla sicurezza e alla privacy delle piattaforme di IA che gestiscono i dati degli utenti.

Le informazioni sensibili confluiscono sempre più spesso negli strumenti di IA

I professionisti si affidano sempre più agli assistenti di IA per la revisione di contratti, il debug di software proprietario, l’analisi di documenti aziendali, l’organizzazione di registri finanziari e la discussione di questioni personali, inserendo dati preziosi nelle conversazioni con i chatbot.

I dati finanziari rappresentano un’altra categoria di informazioni private a rischio. Un possessore di bitcoin si è persino affidato a Claude durante il recupero di un portafoglio contenente 5 BTC smarrito, caricando anni di file informatici, appunti e registrazioni di backup. Il caso illustra come gli utenti affidino sempre più spesso ai sistemi di IA dettagli finanziari riservati che potrebbero esporre le risorse digitali qualora le conversazioni o i link condivisi diventassero accessibili al pubblico.

I termini di servizio di Anthropic relativi alla conservazione delle conversazioni e all’addestramento dei modelli spiegano come le chat degli utenti possano essere conservate in determinate circostanze e delineano le politiche aziendali che regolano le preferenze relative all’addestramento dei modelli. I termini descrivono inoltre come gli utenti possano gestire determinate impostazioni relative ai dati, sottolineando l’importanza di comprendere in che modo i fornitori di IA archiviano, elaborano e utilizzano le informazioni condivise tramite i loro servizi.

Oltre alla divulgazione accidentale, gli autori degli attacchi stanno anche sfruttando la crescente fiducia nelle piattaforme di IA attraverso campagne malevole. Una campagna malware denominata Openclaw ha preso di mira password e portafogli di criptovalute spacciandosi per software di IA legittimi al fine di rubare dati sensibili degli utenti. La campagna sottolinea come i criminali sfruttino sempre più la popolarità degli strumenti di IA, rafforzando l’importanza di tenere file privati, credenziali e documenti finanziari lontani dai servizi accessibili al pubblico.

Le autorità di regolamentazione continuano a esaminare le pratiche di privacy nell’IA

La Commissione Federale per il Commercio degli Stati Uniti (FTC) ha avvertito, nelle sue linee guida sugli impegni in materia di privacy e riservatezza nell’IA, che le aziende che sviluppano prodotti di IA generativa dovrebbero onorare le promesse relative alle modalità di raccolta, conservazione e utilizzo delle informazioni dei consumatori e delle imprese.

L’agenzia ha successivamente avviato un’indagine sulle pratiche relative ai dati dei chatbot basati sull’IA, esaminando il modo in cui diversi fornitori raccolgono, conservano, divulgano e monetizzano le informazioni ottenute attraverso le conversazioni con i chatbot. Le autorità di regolamentazione hanno richiesto dettagli sulle politiche di conservazione dei dati, sulle tutele degli utenti e sulle misure di sicurezza interne, mentre i funzionari valutano se le leggi esistenti in materia di privacy dei consumatori affrontino adeguatamente la rapida adozione dei servizi di IA generativa.

La posta in gioco potrebbe aumentare man mano che Claude e ChatGPT acquisiscono funzionalità on-chain, espandendo i sistemi di IA oltre la generazione di testo verso servizi finanziari connessi e la gestione di asset digitali. Man mano che i chatbot iniziano a interagire con portafogli di criptovalute, applicazioni di finanza decentralizzata e altri account online, le preoccupazioni relative alla privacy e alla sicurezza si estendono oltre la cronologia delle conversazioni fino a riguardare asset, transazioni e autorizzazioni degli account.

Revisione delle conversazioni condivise

Chiunque abbia creato link di condivisione su Claude dovrebbe rivedere le conversazioni attive nelle impostazioni sulla privacy della piattaforma, rimuovere i link non più necessari ed evitare di pubblicare URL pubblici contenenti materiale riservato.

I risultati di ricerca su Google potrebbero scomparire rapidamente, anche se i link copiati, le pagine archiviate, gli screenshot e i segnalibri salvati possono rimanere disponibili dopo che i motori di ricerca hanno rimosso i risultati indicizzati. I ricercatori hanno inoltre documentato tecniche di attacco da parte di agenti di IA in grado di sfruttare i sistemi connessi, dimostrando come gli attori malintenzionati possano manipolare gli strumenti di IA che hanno accesso a browser, account e-mail, archiviazione cloud e servizi finanziari. I risultati sottolineano l’importanza di limitare l’accesso dei chatbot a file sensibili, credenziali e conti finanziari, verificando regolarmente le autorizzazioni concesse alle applicazioni di IA che si integrano con dati personali o aziendali.