Vaši pogovori z umetno inteligenco se morda prikazujejo v iskalniku Google — to je omogočila ena funkcija za deljenje

Deljene pogovore z umetno inteligenco je bilo mogoče poiskati

Po poročanju spletnega portala Cyber Security News o izpostavljenih skupnih pogovorih v umetni inteligenci Claude so se na spletu pojavili na stotine pogovorov v umetni inteligenci Claude, potem ko so uporabniki Reddita odkrili, da iskanje »site:claude.ai/share« prikaže javno dostopne klepete, ki vsebujejo pravne nasvete, inženirska dela in osebne razprave.

Claude je pomočnik z umetno inteligenco podjetja Anthropic, ki se uporablja za programiranje, pisanje, raziskovanje in delovne naloge. Njegova funkcija deljenja ustvarja javne URL-je, ki jih uporabniki lahko pošiljajo drugim, čeprav je poročilo navajalo, da tem stranem ni bilo zagotovljeno varstvo, ki bi iskalnikom preprečilo njihovo indeksiranje, potem ko so se povezave razširile prek forumov, družbenih omrežij ali drugih javnih spletnih strani.

Rezultati iskanja v Googlu za prizadete strani so v veliki meri izginili, kar kaže na hitro izključitev iz indeksa ali spremembe v ozadju, čeprav bi lahko prej shranjene povezave ali povezave v zaznamkih ostale dostopne, razen če jih podjetje Anthropic ne prekliče na strežniški strani.

To odkritje je ponovno sprožilo pregledovanje načina, kako podjetja za umetno inteligenco ščitijo občutljive podatke. Incident se je zgodil nekaj mesecev po drugem razkritju izvorne kode podjetja Anthropic, povezanem s programom Claude Code, kar poudarja širše zaskrbljenosti glede varnosti in zasebnosti platform umetne inteligence, ki obdelujejo uporabniške podatke.

Občutljivi podatki vse pogosteje končajo v orodjih umetne inteligence

Strokovnjaki se vedno bolj zanašajo na AI-pomočnike pri pregledovanju pogodb, odpravljanju napak v lastniški programski opremi, analiziranju poslovnih dokumentov, urejanju finančnih evidenc in razpravljanju o osebnih zadevah, pri čemer v pogovore s klepetalnimi roboti vnašajo dragocene podatke.

Finančni podatki predstavljajo še eno kategorijo zasebnih informacij, ki so ogrožene. Eden od imetnikov bitcoinov se je med iskanjem izgubljene denarnice z 5 BTC celo zanesel na Clauda, tako da je naložil več letne računalniške datoteke, beležke in varnostne kopije. Primer ponazarja, kako uporabniki vedno bolj zaupajo sistemom umetne inteligence zaupne finančne podatke, ki bi lahko izpostavili digitalna sredstva, če bi pogovori ali deljene povezave postali javno dostopni.

Pogoji za potrošnike podjetja Anthropic, ki obravnavajo hrambo pogovorov in usposabljanje modelov, pojasnjujejo, kako se lahko pogovori s potrošniki v določenih okoliščinah shranijo, ter opredeljujejo politike podjetja, ki urejajo nastavitve za usposabljanje modelov. Pogoji prav tako opisujejo, kako lahko uporabniki upravljajo določene nastavitve podatkov, pri čemer poudarjajo pomembnost razumevanja, kako ponudniki umetne inteligence shranjujejo, obdelujejo in uporabljajo informacije, ki se delijo prek njihovih storitev.

Poleg naključnega razkritja napadalci izkoriščajo tudi vse večje zaupanje v platforme umetne inteligence prek zlonamernih kampanj. Kampanja z zlonamerno programsko opremo Openclaw je ciljala na gesla in kriptovalutne denarnice tako, da se je izdajala za legitimno programsko opremo umetne inteligence, da bi ukradla občutljive podatke uporabnikov. Kampanja poudarja, kako kriminalci vse bolj izkoriščajo priljubljenost orodij umetne inteligence, kar še dodatno poudarja pomen tega, da zasebne datoteke, prijavne podatke in finančne evidence hranimo stran od javno dostopnih storitev.

Regulatorji nadaljujejo s preučevanjem praks umetne inteligence na področju zasebnosti

Zvezna trgovinska komisija ZDA (FTC) je v svojih smernicah o zavezah glede zasebnosti in zaupnosti v umetni inteligenci opozorila, da morajo podjetja, ki razvijajo generativne izdelke umetne inteligence, spoštovati obljube o tem, kako se zbirajo, hranijo in uporabljajo podatki potrošnikov in podjetij.

Agencija je kasneje sprožila preiskavo praks ravnanja s podatki v AI-klepetalnikih, v okviru katere preučuje, kako več ponudnikov zbira, hrani, razkriva in monetizira informacije, pridobljene prek pogovorov v klepetalnikih. Regulatorji so zahtevali podrobnosti o politikah hrambe podatkov, zaščiti uporabnikov in notranjih varnostnih ukrepih, saj uradniki ocenjujejo, ali obstoječi zakoni o zasebnosti potrošnikov ustrezno obravnavajo hitro uvajanje generativnih AI-storitev.

Stavke bi se lahko povečale, ko bosta Claude in ChatGPT pridobila zmogljivosti v verigi blokov, s čimer se bodo sistemi umetne inteligence razširili preko ustvarjanja besedila na povezane finančne storitve in upravljanje digitalnih sredstev. Ko bodo klepetalni roboti začeli komunicirati s denarnicami za kriptovalute, aplikacijami za decentralizirano financiranje in drugimi spletnimi računi, se bodo skrbi glede zasebnosti in varnosti razširile preko zgodovine pogovorov na sredstva, transakcije in dovoljenja za račune.

Pregled skupnih pogovorov

Vsak, ki je ustvaril povezave za deljenje v Claudu, naj v nastavitvah zasebnosti platforme pregleda aktivne pogovore, odstrani povezave, ki niso več potrebne, in se izogiba objavljanju javnih URL-jev, ki vsebujejo zaupne podatke.

Rezultati iskanja v Googlu lahko hitro izginejo, čeprav lahko kopirane povezave, arhivirane strani, posnetki zaslona in shranjene zaznamke ostanejo na voljo tudi potem, ko iskalniki odstranijo indeksirane rezultate.

Raziskovalci so dokumentirali tudi tehnike napadov AI-agentov, ki lahko izkoriščajo povezane sisteme, ter s tem pokazali, kako lahko zlonamerni akterji manipulirajo z orodji umetne inteligence, ki imajo dostop do brskalnikov, e-poštnih računov, shranjevanja v oblaku in finančnih storitev. Ugotovitve poudarjajo pomembnost omejevanja dostopa klepetalnih robotov do občutljivih datotek, poverilnic in finančnih računov ter rednega pregledovanja dovoljenj, dodeljenih aplikacijam umetne inteligence, ki se integrirajo z osebnimi ali poslovnimi podatki.