Vaše konverzace s umělou inteligencí se možná objevují ve vyhledávání Google – umožnila to jedna funkce pro sdílení

Sdílené konverzace s AI se staly vyhledatelnými

Podle zprávy serveru Cyber Security News o odhalených sdílených konverzacích v Claude AI se na internetu údajně objevily stovky konverzací v Claude AI poté, co uživatelé Redditu zjistili, že při vyhledávání „site:claude.ai/share“ se zobrazují veřejně přístupné chaty obsahující právní rady, inženýrské práce a osobní diskuse.

Claude je asistent s umělou inteligencí od společnosti Anthropic, který se používá pro programování, psaní, výzkum a pracovní úkoly. Jeho funkce sdílení vytváří veřejné URL adresy, které mohou uživatelé posílat ostatním, ačkoli zpráva naznačila, že těmto stránkám chyběla ochrana zabraňující vyhledávačům v jejich indexování poté, co se odkazy rozšířily přes fóra, sociální média nebo jiné veřejné webové stránky.

Výsledky vyhledávání Google pro dotčené stránky z velké části zmizely, což naznačuje rychlé odstranění z indexu nebo změny v pozadí, ačkoli dříve uložené nebo do záložek přidané odkazy by mohly zůstat přístupné, pokud je společnost Anthropic nezruší na straně serveru.

Tento objev znovu vyvolal pozornost ohledně toho, jak společnosti zabývající se umělou inteligencí chrání citlivé informace. K incidentu došlo několik měsíců po dalším úniku zdrojového kódu společnosti Anthropic týkajícího se nástroje Claude Code, což podtrhuje širší obavy ohledně bezpečnosti a ochrany soukromí platforem umělé inteligence, které zpracovávají uživatelská data.

Citlivé informace se stále častěji dostávají do nástrojů umělé inteligence

Odborníci se při kontrole smluv, ladění proprietárního softwaru, analýze obchodních dokumentů, organizaci finančních záznamů a projednávání osobních záležitostí stále více spoléhají na AI asistenty, čímž vkládají cenná data do konverzací s chatboty.

Finanční data představují další kategorii ohrožených soukromých informací. Jeden držitel bitcoinů se dokonce spoléhal na Clauda při obnově ztracené peněženky s 5 BTC tím, že nahrál počítačové soubory, poznámkové bloky a záložní záznamy z několika let. Tento případ ilustruje, jak uživatelé stále více svěřují systémům umělé inteligence důvěrné finanční údaje, které by mohly ohrozit digitální aktiva, pokud by se konverzace nebo sdílené odkazy staly veřejně přístupnými.

Podmínky pro spotřebitele společnosti Anthropic, které se týkají uchovávání konverzací a trénování modelů, vysvětlují, jak mohou být konverzace spotřebitelů za určitých okolností uchovávány, a nastiňují zásady společnosti upravující preference při trénování modelů. Podmínky také popisují, jak mohou uživatelé spravovat určitá nastavení dat, a zdůrazňují, jak důležité je pochopit, jak poskytovatelé AI ukládají, zpracovávají a využívají informace sdílené prostřednictvím jejich služeb.

Kromě náhodného odhalení zneužívají útočníci rostoucí důvěru v platformy umělé inteligence také prostřednictvím škodlivých kampaní. Malwarová kampaň Openclaw se zaměřila na hesla a kryptoměnové peněženky tím, že se vydávala za legitimní software umělé inteligence, aby ukradla citlivá uživatelská data. Tato kampaň podtrhuje, jak zločinci stále více zneužívají popularitu nástrojů umělé inteligence, a zdůrazňuje důležitost uchovávání soukromých souborů, přihlašovacích údajů a finančních záznamů mimo veřejně přístupné služby.

Regulační orgány pokračují v prověřování postupů v oblasti ochrany soukromí v AI

Americká Federální obchodní komise (FTC) ve svých pokynech týkajících se závazků v oblasti ochrany soukromí a důvěrnosti v souvislosti s AI varovala, že společnosti vyvíjející generativní produkty AI by měly dodržovat sliby týkající se způsobu shromažďování, uchovávání a využívání informací o spotřebitelích a firmách.

Agentura později zahájila šetření týkající se postupů při nakládání s daty chatbotů s umělou inteligencí, přičemž zkoumá, jak několik poskytovatelů shromažďuje, uchovává, zveřejňuje a zpeněžuje informace získané prostřednictvím konverzací s chatboty. Regulační orgány si vyžádaly podrobnosti o zásadách uchovávání dat, ochraně uživatelů a interních bezpečnostních opatřeních, zatímco úředníci posuzují, zda stávající zákony na ochranu soukromí spotřebitelů adekvátně řeší rychlé zavádění generativních služeb umělé inteligence.

Sázky by se mohly zvýšit, jakmile Claude a ChatGPT získají on-chain schopnosti, čímž se systémy umělé inteligence rozšíří z generování textu do propojených finančních služeb a správy digitálních aktiv. Jakmile chatboty začnou komunikovat s kryptoměnovými peněženkami, aplikacemi decentralizovaného financování a dalšími online účty, obavy o soukromí a bezpečnost se rozšíří z historie konverzací na aktiva, transakce a oprávnění k účtům.

Kontrola sdílených konverzací

Každý, kdo vytvořil sdílené odkazy v Claudovi, by měl v nastavení ochrany soukromí platformy zkontrolovat aktivní konverzace, odstranit odkazy, které již nejsou potřebné, a vyhnout se zveřejňování veřejných URL adres obsahujících důvěrné materiály.

Výsledky vyhledávání na Googlu mohou rychle zmizet, i když zkopírované odkazy, archivované stránky, snímky obrazovky a uložené záložky mohou zůstat dostupné i poté, co vyhledávače odstraní indexované výsledky.

Výzkumníci také zdokumentovali útočné techniky agentů umělé inteligence, které jsou schopné zneužít propojené systémy, a demonstrovali, jak mohou útočníci manipulovat s nástroji umělé inteligence, které mají přístup k prohlížečům, e-mailovým účtům, cloudovému úložišti a finančním službám. Tyto zjištění podtrhují důležitost omezení přístupu chatbotů k citlivým souborům, přihlašovacím údajům a finančním účtům a zároveň pravidelného přezkoumávání oprávnění udělených aplikacím s umělou inteligencí, které jsou integrovány s osobními nebo firemními daty.