AI Browser di Bawah Ancaman: Perintah Tersembunyi di Web Dapat Membajak Agen dan Akun Terhubung Anda

Kerentanan Peramban AI Meningkatkan Kekhawatiran Keamanan

Peramban dan agen AI dari Perplexity, OpenAI, dan Anthropic sedang mendefinisikan ulang bagaimana pengguna berinteraksi dengan web—but para ahli mengatakan kenyamanan datang dengan biaya.

Menurut audit keamanan dan penelitian yang ditinjau, kerentanan dalam sistem ini memungkinkan pelaku jahat menyematkan instruksi tersembunyi di situs web yang mungkin dieksekusi tanpa disadari oleh alat AI.

Serangan ini, yang dikenal sebagai injeksi prompt tersembunyi atau tidak langsung, dapat memanipulasi agen AI untuk melakukan tindakan yang tidak sah—seperti membocorkan informasi sensitif, mengeksekusi kode, atau mengalihkan pengguna ke situs phishing—tanpa persetujuan eksplisit pengguna.

Cara Serangan Mengeksploitasi Agen AI

Dalam skenario injeksi prompt tersembunyi, penyerang menyembunyikan perintah berbahaya dalam teks, metadata, atau bahkan elemen tak terlihat di sebuah halaman web. Begitu AI mengolah data tersebut, perintah tersebut dapat menimpa niat pengguna dan menyebabkan agen melakukan tindakan yang tidak diinginkan. Pengujian menunjukkan bahwa peramban AI yang tidak dilindungi dapat jatuh ke dalam tipuan semacam itu hampir satu dari empat kali dalam eksperimen terkontrol.

Perplexity, OpenAI, dan Anthropic: Risiko Utama Teridentifikasi

• Peramban Comet Perplexity: Audit oleh Brave dan Guardio menemukan alat ini dapat dimanipulasi melalui posting Reddit atau situs phishing untuk mengeksekusi skrip atau mengekstraksi data pengguna.
• Agen Pelayaran OpenAI: Terintegrasi ke dalam fitur agenik ChatGPT, mereka terbukti berisiko terhadap akses akun terkait melalui email berbahaya dan prompt berbasis situs web.
• Ekstensi Peramban Claude Anthropic: Tes red-team menunjukkan bahwa perintah tersembunyi laman web dapat memicu klik otomatis pada tautan berbahaya.

Insiden Terdokumentasi dan Peringatan Industri

Peneliti dan perusahaan keamanan siber, termasuk Brave, Guardio, dan Malwarebytes, telah menerbitkan temuan yang menunjukkan bahwa bahkan konten online sederhana dapat membahayakan agen AI. Dalam satu pengujian, sebuah posting Reddit memaksa peramban AI untuk menjalankan skrip phishing. Laporan dari beberapa publikasi teknologi terkenal memperingatkan bahwa masalah ini dapat menyebabkan akses data tanpa izin atau bahkan pencurian keuangan.

Bahaya Integrasi Akun

Analis keamanan telah meniupkan peluit merah tentang agen AI yang terkait dengan kata sandi atau API. Membiarkan integrasi seperti itu dapat mengekspos akun email, drive cloud, dan platform pembayaran. Techcrunch dan Cybersecurity Dive keduanya melaporkan insiden di mana agen AI dikelabui untuk mengungkapkan atau memanipulasi informasi sensitif melalui perintah yang disuntikkan.

Langkah-langkah Keamanan yang Disarankan dan Pandangan ke Depan

Para ahli mendesak pengguna untuk membatasi izin, menghindari memberikan agen AI akses setingkat kata sandi, dan memantau log AI untuk anomali. Pengembang juga disarankan untuk menerapkan sistem isolasi dan filter prompt. Beberapa peneliti bahkan merekomendasikan menggunakan peramban tradisional untuk tindakan sensitif sampai alat AI menerima perlindungan yang lebih ketat.

Sementara OpenAI, Anthropic, dan Perplexity kemungkinan telah mendengar tentang tantangan tersebut, para profesional keamanan siber memperingatkan bahwa penjelajahan yang didorong oleh AI tetap menjadi area berisiko tinggi di tahun 2025. Sebagai perusahaan-perusahaan ini mendorong lebih jauh ke dalam interaksi web otonom, pengamat industri mengatakan transparansi dan standar keamanan yang lebih kuat sangat penting sebelum alat-alat seperti itu menjadi utama.

FAQ 🧭

• Apa itu injeksi prompt tersembunyi dalam peramban AI?
  Mereka adalah perintah tersembunyi yang disematkan dalam konten web yang mengelabui agen AI untuk mengeksekusi tindakan berbahaya tanpa persetujuan pengguna.
• Alat AI perusahaan mana yang terkena dampak kerentanan ini?
  Perplexity’s Comet, agen pelayaran ChatGPT dari OpenAI, dan fitur peramban Claude dari Anthropic semuanya disebutkan dalam laporan terkini.
• Risiko apa yang muncul dari menghubungkan agen AI ke akun pribadi?
  Menghubungkan alat AI ke drive, email, atau API dapat memungkinkan pencurian data, phishing, dan akses akun tanpa izin.
• Bagaimana pengguna dapat melindungi diri mereka dari serangan peramban AI?
  Batasi izin, hindari integrasi kata sandi, gunakan mode terisolasi, dan tetap diperbarui pada saran keamanan.