AI prehliadače pod paľbou: Skryté webové pokyny môžu uniesť vášho agenta a pripojené účty

Zraniteľnosti prehliadačov AI zvyšujú obavy o bezpečnosť

Prehliadače a agenti AI od spoločností Perplexity, OpenAI a Anthropic redefinujú, ako užívatelia interagujú s webom—ale odborníci tvrdia, že pohodlie má svoju cenu.

Podľa bezpečnostných auditov a preskúmaného výskumu zraniteľnosti v týchto systémoch umožňujú škodlivým aktérom vložiť skryté pokyny do webových stránok, ktoré môžu AI nástroje nevedomky vykonať.

Tieto útoky, známe ako skryté alebo nepriame vkladania príkazov, môžu manipulovať AI agentov, aby vykonali neoprávnené akcie—ako únik citlivých informácií, vykonanie kódu alebo presmerovanie užívateľov na phishingové stránky—bez výslovného súhlasu užívateľa.

Ako útoky využívajú AI agentov

V scenároch skrytého vkladania príkazov útočníci skrývajú škodlivé príkazy v texte webových stránok, metadátach alebo dokonca neviditeľných prvkoch. Keď AI absorbuje tieto dáta, príkazy môžu prekonať úmysly užívateľa a spôsobiť, že agent vykoná nežiaduce akcie. Testy ukazujú, že nechránené AI prehliadače môžu takýmto trikom podľahnúť takmer v jednom zo štyroch prípadov počas kontrolovaných experimentov.

Perplexity, OpenAI a Anthropic: identifikované kľúčové riziká

• Perplexity’s Comet Browser: Audity spoločností Brave a Guardio zistili, že nástroj môže byť manipulovaný prostredníctvom príspevkov na Reddit alebo phishingových stránkach na vykonanie skriptov alebo extrakciu užívateľských dát.
• OpenAI’s Browsing Agents: Integrované do agentických funkcií ChatGPT, tieto nástroje preukázali riziko prístupu k prepojeným účtom cez škodlivé e-maily a webové príkazy.
• Kladová rozšírenie prehliadača Anthropic: Tímy na červeno testy odhalili, že skryté príkazy na webových stránkach môžu spustiť automatické kliknutia na škodlivé odkazy.

Zdokumentované incidenty a upozornenia odvetvia

Výskumníci a firmy zaoberajúce sa kybernetickou bezpečnosťou, vrátane Brave, Guardio a Malwarebytes, zverejnili zistenia, ktoré ukazujú, že aj jednoduchý online obsah môže ohroziť AI agentov. V jednom teste príspevok na Reddit donútil AI prehliadač na spustenie phishingových skriptov. Správy od niekoľkých popredných technických publikácií upozorňovali, že tieto problémy by mohli viesť k neoprávnenému prístupu k dátam alebo dokonca krádeži finančných prostriedkov.

Ohrozenia integrácie účtov

Bezpečnostní analytici zvýšili varovania o agantoch AI prepojených s heslami alebo API. Umožniť takéto integrácie môže vystaviť e-maily, cloudové disky a platobné platformy. Techcrunch a Cybersecurity Dive oba hlásili prípady, kedy boli AI agenti zmanipulovaní, aby odhaľovali alebo manipulovali citlivé informácie prostredníctvom vložených príkazov.

Odporúčané bezpečnostné opatrenia a výhľad

Odborníci vyzývajú užívateľov, aby obmedzili povolenia, vyhýbali sa poskytovaniu AI agentom prístup na úrovni hesla a monitorovali logy AI pre anomálie. Vývojári sú tiež odporúčaní implementovať izolačné systémy a filtre pre príkazy. Niektorí výskumníci dokonca odporúčajú používať tradičné prehliadače pre citlivé akcie, kým AI nástroje nezískajú prísnejšie bezpečnostné opatrenia.

Aj keď pravdepodobne OpenAI, Anthropic a Perplexity o výzvach počuli, profesionáli v oblasti kybernetickej bezpečnosti varujú, že prehliadanie poháňané AI zostáva v roku 2025 v oblasti s vysokým rizikom. Ako tieto spoločnosti postupujú ďalej do autonómnej webovej interakcie, pozorovatelia odvetvia hovoria, že transparentnosť a silnejšie bezpečnostné štandardy sú nevyhnutné, skôr ako sa takéto nástroje stanú bežnými.

FAQ 🧭

• Čo sú skryté vkladania príkazov v AI prehliadačoch?
  Sú to skryté príkazy vkladané do webového obsahu, ktoré nalákajú AI agentov na vykonanie škodlivých akcií bez súhlasu užívateľa.
• Ktoré spoločnosti boli ovplyvnené týmito zraniteľnosťami?
  Perplexity’s Comet, prehliadací agenti OpenAI’s ChatGPT a prehliadačové funkcie Claude od Anthropic boli všetky uvedené v nedávnych správach.
• Aké riziká vyplývajú z prepojenia AI agentov s osobnými účtami?
  Prepojenie AI nástrojov s diskami, e-mailami alebo API môže umožniť krádež dát, phishing a neoprávnený prístup k účtom.
• Ako sa užívatelia môžu chrániť pred útokmi na AI prehliadače?
  Obmedzte povolenia, vyhýbajte sa integráciám hesiel, používajte sandboxové režimy a buďte aktuálni v otázkach bezpečnostných odporúčaní.