Vaše konverzácie s umelou inteligenciou sa môžu zobrazovať vo vyhľadávači Google — umožnila to jedna funkcia zdieľania

Zdieľané konverzácie s AI sa stali vyhľadateľnými

Podľa správy portálu Cyber Security News o odhalených zdieľaných konverzáciách v Claude AI sa na internete údajne objavili stovky konverzácií v Claude AI po tom, čo používatelia Redditu zistili, že vyhľadávanie „site:claude.ai/share“ odhalilo verejne prístupné konverzácie obsahujúce právne poradenstvo, inžinierske práce a osobné diskusie.

Claude je asistent umelej inteligencie spoločnosti Anthropic používaný na programovanie, písanie, výskum a úlohy na pracovisku. Jeho funkcia zdieľania vytvára verejné URL adresy, ktoré môžu používatelia posielať iným, hoci správa uvádza, že týmto stránkam chýbala ochrana zabraňujúca vyhľadávačom v ich indexovaní po tom, čo sa odkazy rozšírili prostredníctvom fór, sociálnych médií alebo iných verejných webových stránok.

Výsledky vyhľadávania Google pre dotknuté stránky z veľkej časti zmizli, čo naznačuje rýchle odstránenie z indexu alebo zmeny v pozadí, hoci predtým uložené alebo pridané do záložiek odkazy môžu zostať prístupné, pokiaľ ich spoločnosť Anthropic nezruší na strane servera.

Toto zistenie opäť vyvolalo pozornosť na to, ako spoločnosti zaoberajúce sa umelou inteligenciou chránia citlivé informácie. K incidentu došlo niekoľko mesiacov po inom úniku zdrojového kódu spoločnosti Anthropic týkajúceho sa nástroja Claude Code, čo zdôrazňuje širšie obavy o bezpečnosť a súkromie platforiem umelej inteligencie, ktoré spracúvajú údaje používateľov.

Citlivé informácie čoraz častejšie prúdia do nástrojov umelej inteligencie

Odborníci sa čoraz viac spoliehajú na asistentov umelej inteligencie pri kontrole zmlúv, odstraňovaní chýb vo vlastnom softvéri, analýze obchodných dokumentov, organizovaní finančných záznamov a pri diskusii o osobných záležitostiach, čím sa cenné údaje dostávajú do konverzácií s chatbotmi.

Finančné údaje predstavujú ďalšiu kategóriu ohrozených súkromných informácií. Jeden držiteľ bitcoinu sa dokonca spoliehal na Clauda počas obnovy stratenej peňaženky s 5 BTC, keď nahral roky počítačových súborov, poznámkových blokov a záložných záznamov. Tento prípad ilustruje, ako používatelia čoraz viac zverujú systémom umelej inteligencie dôverné finančné údaje, ktoré by mohli ohroziť digitálne aktíva, ak by sa konverzácie alebo zdieľané odkazy stali verejne prístupnými.

Podmienky používania spoločnosti Anthropic týkajúce sa uchovávania konverzácií a trénovania modelov vysvetľujú, ako môžu byť konverzácie spotrebiteľov za určitých okolností uchovávané, a opisujú zásady spoločnosti upravujúce preferencie trénovania modelov. Podmienky tiež popisujú, ako môžu používatelia spravovať určité nastavenia údajov, čím zdôrazňujú dôležitosť pochopenia toho, ako poskytovatelia umelej inteligencie ukladajú, spracúvajú a využívajú informácie zdieľané prostredníctvom ich služieb.

Okrem náhodného odhalenia útočníci využívajú rastúcu dôveru v platformy umelej inteligencie aj prostredníctvom škodlivých kampaní. Malwarová kampaň Openclaw sa zameriavala na heslá a krypto peňaženky tým, že sa vydávala za legitímny softvér umelej inteligencie s cieľom ukradnúť citlivé údaje používateľov. Táto kampaň podčiarkuje, ako zločinci čoraz viac zneužívajú popularitu nástrojov umelej inteligencie, čo ešte viac zdôrazňuje dôležitosť uchovávania súkromných súborov, prihlasovacích údajov a finančných záznamov mimo verejne dostupných služieb.

Regulačné orgány naďalej skúmajú postupy v oblasti ochrany súkromia v umelej inteligencii

Americká Federálna obchodná komisia (FTC) vo svojich usmerneniach týkajúcich sa záväzkov v oblasti ochrany súkromia a dôvernosti v súvislosti s umelou inteligenciou varovala, že spoločnosti vyvíjajúce generatívne produkty umelej inteligencie by mali dodržiavať sľuby týkajúce sa spôsobu zberu, uchovávania a využívania informácií o spotrebiteľoch a podnikoch.

Agentúra neskôr začala vyšetrovanie postupov v oblasti údajov umelých inteligencií typu chatbot, pričom skúma, ako viacerí poskytovatelia zhromažďujú, uchovávajú, zverejňujú a zhodnocujú informácie získané prostredníctvom konverzácií cez chatboty. Regulačné orgány požiadali o podrobnosti týkajúce sa zásad uchovávania údajov, ochrany používateľov a vnútorných bezpečnostných opatrení, keďže úradníci posudzujú, či existujúce zákony o ochrane súkromia spotrebiteľov primerane riešia rýchle zavádzanie generatívnych služieb umelej inteligencie.

Stavka by sa mohla zvýšiť, keďže Claude a ChatGPT získavajú on-chain schopnosti, čím sa systémy umelej inteligencie rozširujú nad rámec generovania textu do prepojených finančných služieb a správy digitálnych aktív. Keďže chatboty začínajú interagovať s peňaženkami na kryptomeny, aplikáciami decentralizovaného financovania a inými online účtami, obavy o súkromie a bezpečnosť sa rozširujú nad rámec histórie konverzácií na aktíva, transakcie a oprávnenia k účtom.

Prehliadanie zdieľaných konverzácií

Každý, kto vytvoril zdieľacie odkazy v Claude, by mal skontrolovať aktívne konverzácie v nastaveniach ochrany súkromia platformy, odstrániť odkazy, ktoré už nie sú potrebné, a vyhnúť sa zverejňovaniu verejných URL obsahujúcich dôverné materiály.

Výsledky vyhľadávania v Google môžu rýchlo zmiznúť, hoci skopírované odkazy, archivované stránky, snímky obrazovky a uložené záložky môžu zostať dostupné aj po tom, čo vyhľadávače odstránia indexované výsledky.

Výskumníci tiež zdokumentovali techniky útokov agentov umelej inteligencie, ktoré sú schopné zneužiť prepojené systémy, a demonštrovali, ako môžu zlovestní aktéri manipulovať s nástrojmi umelej inteligencie, ktoré majú prístup k prehliadačom, e-mailovým účtom, úložisku v cloude a finančným službám. Tieto zistenia zdôrazňujú dôležitosť obmedzenia prístupu chatbotov k citlivým súborom, prihlasovacím údajom a finančným účtom, ako aj pravidelného prehodnocovania oprávnení udelených aplikáciám umelej inteligencie, ktoré sú integrované s osobnými alebo firemnými údajmi.