Tehisintellekti brauserid tule all: Peidetud veebikäsud võivad kaaperdada sinu agendi ja seotud kontod.

AI-brauserite haavatavused tekitavad turvaprobleeme

AI-brauserid ja agendid, nagu Perplexity, OpenAI ja Anthropic, muudavad seda, kuidas kasutajad veebiga suhtlevad, kuid eksperdid ütlevad, et mugavus maksab oma hinda.

Vastavalt turvaaudititele ja läbi vaadatud uuringutele võimaldavad nende süsteemide haavatavused pahatahtlikel isikutel manustada peidetud juhiseid veebisaitidele, mida AI tööriistad võivad teadmata teostada.

Need rünnakud, tuntud kui varjatud või kaudsed süstemaatilised süstid, võivad manipuleerida AI agentidega, et teha loata toiminguid, nagu tundlike andmete lekitamine, koodi täitmine või kasutajate suunamine õngitsemissaitidele ilma selgesõnalise kasutaja nõusolekuta.

Kuidas rünnakud AI-agente kuritarvitavad

Varjatud süstemaatiliste süstide stsenaariumites peituvad ründajad pahatahtlikke käske veebilehe tekstis, metaandmetes või isegi nähtamatutes elementides. Kui AI seda teavet tarbib, võivad käsud kasutaja kavatsuse ületada ja panna agendi tegema soovimatuid toiminguid. Katsed näitavad, et kaitsmata AI-brauserid võivad sellistele trikkidele langeda peaaegu üks kord neljast kontrollitud katsete ajal.

Perplexity, OpenAI ja Anthropic: tuvastatud peamised riskid

• Perplexity Comet brauser: Brave’i ja Guardio auditeeritud leiti, et tööriista saab manipuleerida Redditi postituste või õngitsemissaitide kaudu, et skripte täita või kasutajaandmeid eraldada.
• OpenAI brauseri agendid: Neid on integreeritud ChatGPT agendifunktsioonidesse, ilmnes, et ühendatud kontodele pääsemise riske on e-postide ja veebipõhiste süstimise kaudu.
• Anthropic Claude brauserilaiendus: Punameeskonna katsed näitasid, et peidetud veebilehised käsud võivad käivitada automaatseid klikke kahjulikele linkidele.

Dokumenteeritud vahejuhtumid ja tööstuse hoiatuse

Teadlased ja küberjulgeolekufirmad, sealhulgas Brave, Guardio ja Malwarebytes, on avaldanud leiud, mis näitavad, et isegi lihtne veebisisu võib AI agente mõjutada. Ühes testis sundis Redditi postitus AI-brauserit käitama õngitsemisskripte. Mitu juhtivat tehnoloogia väljaannet hoiatavad, et need probleemid võivad põhjustada volitamata andmejuurdepääsu või isegi rahalist vargust.

Konto integreerimise ohud

Turvaanalüütikud on tõstnud punaseid lippe seoses AI agentidega, mis on seotud paroolide või API-dega. Selliste integratsioonide lubamine võib paljastada e-posti kontod, pilve kettad ja makseplatvormid. Techcrunch ja Cybersecurity Dive teatasid juhtumitest, kus AI agentidele peteti tundliku teabe avalikustamise või manipuleerimise kaudu süstitud käskude abil.

Soovitatud turvameetmed ja väljavaade

Eksperdid soovitavad kasutajatel piirata lubasid, vältida parooli tasemel juurdepääsu andmist AI agentidele ja jälgida AI logisid anomaaliate suhtes. Arendajatele soovitatakse samuti rakendada isoleerimissüsteeme ja süsifiltreid. Mõned teadlased isegi soovitavad kasutada tundlike toimingute tegemiseks traditsioonilisi brausereid, kuni AI-tööriistad saavad rangemad turvameetmed.

Kuigi OpenAI, Anthropic ja Perplexity on ilmselt kuulnud sellest väljakutsest, hoiatavad küberjulgeoleku spetsialistid, et AI-juhtitud sirvimine jääb kõrge riskiga valdkonnaks aastal 2025. Kuna need ettevõtted liiguvad edasi autonoomse veebi suhtluse suunas, tööstuse vaatlejad ütlevad, et läbipaistvus ja rangemad turvastandardid on hädavajalikud, enne kui sellised tööriistad muutuvad laialt levinuks.

KKK 🧭

• Mis on varjatud süstemaatilised süstid AI brauserites?
  Need on veebisisusse manustatud peidetud käsud, mis trikitavad AI agente kahjulikke toiminguid tegema ilma kasutaja nõusolekuta.
• Milliste ettevõtete AI tööriistad kannatasid nende haavatavuste all?
  Perplexity Comet, OpenAI ChatGPT sirvimisagendid ja Anthropici Claude brauseri funktsioonid viidati hiljutistes aruannetes.
• Millised riskid tulenevad AI-agentide isiklik kontoga ühendamisest?
  AI tööriistade ühendamine kõvakettaste, e-posti või API-dega võib võimaldada andmete vargust, õngitsemist ja volitamata kontodele juurdepääsu.
• Kuidas saavad kasutajad kaitsta end AI-brauseri rünnakute eest?
  Piira lubasid, väldi parooli integratsioone, kasuta liivakast-režiime ja hoia end kursis turvateadete osas.