AI brskalniki pod pritiskom: skriti spletni pozivi lahko ugrabijo vaš agent in povezane račune

Ranljivosti AI brskalnikov vzbujajo varnostne pomisleke

AI brskalniki in agenti podjetij Perplexity, OpenAI in Anthropic na novo definirajo, kako uporabniki interagirajo s spletom – toda strokovnjaki pravijo, da udobje ima svojo ceno.

V skladu z varnostnimi revizijami in pregledanimi raziskavami, ranljivosti v teh sistemih omogočajo zlonamernim akterjem, da vgradijo skrite ukaze v spletne strani, ki jih lahko AI orodja nevede izvedejo.

Ti napadi, znani kot prikrito ali posredno vbrizgavanje ukazov, lahko manipulirajo AI agente, da izvajajo nepooblaščena dejanja – kot je razkritje občutljivih informacij, izvajanje kode ali preusmerjanje uporabnikov na lažne spletne strani – brez izrecnega soglasja uporabnika.

Kako napadi izkoriščajo AI agente

V prikritih scenarijih vbrizgavanja ukazov napadalci skrijejo zlonamerne ukaze znotraj teksta spletne strani, metapodatkov ali celo nevidnih elementov. Ko AI prebavi te podatke, lahko ukazi nadomestijo uporabnikovo namero in povzročijo, da agent izvede neželena dejanja. Testi kažejo, da lahko nezaščiteni AI brskalniki postanejo tarča takšnih trikov skoraj v enem od štirih primerov med kontroliranimi eksperimenti.

Perplexity, OpenAI in Anthropic: Glavna tveganja, ki so bila identificirana

• Perplexityjev brskalnik Comet: Revizije s strani Brave in Guardio so ugotovile, da je orodje mogoče manipulirati preko Reddit objav ali lažnih spletnih mest za izvajanje skriptov ali pridobivanje uporabniških podatkov.
• OpenAI-jevi agenti za brskanje: Vgrajeno v agentne funkcije ChatGPT, so se pokazali kot ranljivi za dostop do povezanih računov preko zlonamernih e-poštnih in spletnih pozivov.
• Anthropicova razširitev brskalnika Claude: Red-team testi so razkrili, da lahko skriti ukazi na spletnih straneh sprožijo samodejne klike na škodljive povezave.

Dokumentirani incidenti in opozorila industrije

Raziskovalci in kibernetskovarnostna podjetja, vključno z Brave, Guardio in Malwarebytes, so objavili ugotovitve, ki kažejo, da lahko tudi preprosta spletna vsebina ogrozi AI agente. V enem testu je objava na Redditu prisilila AI brskalnik, da je zagnal lažne skripte. Poročila številnih vodilnih tehnoloških publikacij so opozorila, da bi ti problemi lahko privedli do nepooblaščenega dostopa do podatkov ali celo finančne kraje.

Nevarnosti integracije računov

Varnostni analitiki so opozorili na AI agente, ki so povezani z gesli ali API-ji. Dovoljevanje takšnih integracij lahko izpostavi e-poštne račune, oblačne pomnilnike in plačilne platforme. Techcrunch in Cybersecurity Dive sta oba poročala o primerih, ko so bili AI agenti zavedeni v razkrivanje ali manipulacijo občutljivih informacij skozi vbrizgane ukaze.

Priporočeni varnostni ukrepi in pogled v prihodnost

Strokovnjaki pozivajo uporabnike, naj omejijo dovoljenja, se izogibajo dodeljevanju gesel AI agentom ter spremljajo AI dnevnike zaradi anomalij. Razvijalcem se svetuje, naj implementirajo izolacijske sisteme in filter ukazov. Nekateri raziskovalci celo priporočajo uporabo tradicionalnih brskalnikov za občutljiva dejanja, dokler AI orodja ne bodo dobila strožjih varnostnih zaščit.

Čeprav so OpenAI, Anthropic in Perplexity verjetno seznanjeni z izzivi, kibernetskovarnostni strokovnjaki opozarjajo, da brskanje, ki ga poganja AI, ostaja področje visokega tveganja v letu 2025. Kot te družbe potiskajo naprej v avtonomno spletno interakcijo, opazovalci industrije pravijo, da sta preglednost in močnejši varnostni standardi bistvena, preden takšna orodja postanejo običajna.

Pogosta vprašanja 🧭

• Kaj so prikrita vbrizgavanja ukazov v AI brskalnikih?
  To so skriti ukazi, vgrajeni v spletno vsebino, ki zavajajo AI agente, da izvajajo škodljiva dejanja brez soglasja uporabnika.
• Katera podjetja so zadeva ranljivosti teh AI orodij?
  Perplexityjev Comet, OpenAI-jevi agenti za brskanje ChatGPT in Anthropicove funkcije brskalnika Claude so bili navedeni v nedavnih poročilih.
• Katera tveganja izhajajo iz povezovanja AI agentov s osebni računi?
  Povezovanje AI orodij z pomnilniki, e-pošto ali API-ji lahko omogoči krajo podatkov, lažno predstavljanje in nepooblaščen dostop do računov.
• Kako se lahko uporabniki zaščitijo pred napadi na AI brskalnike?
  Omejite dovoljenja, izogibajte se integracijam z gesli, uporabljajte omejene načine delovanja in ostanite na tekočem z varnostnimi obvestili.