AI-Browser unter Beschuss: Versteckte Web-Prompts können Ihren Agenten und verbundene Konten kapern

KI-Browser-Schwachstellen erwecken Sicherheitsbedenken

KI-Browser und Agenten von Perplexity, OpenAI und Anthropic definieren die Interaktion der Nutzer mit dem Web neu – doch Experten sagen, dass die Bequemlichkeit ihren Preis hat.

Laut Sicherheitsüberprüfungen und geprüften Forschungen ermöglichen Schwachstellen in diesen Systemen böswilligen Akteuren, versteckte Anweisungen in Websites einzubetten, die KI-Tools möglicherweise unwissentlich ausführen.

Diese Angriffe, bekannt als verdeckte oder indirekte Prompt-Injections, können KI-Agenten dazu bringen, unbefugte Handlungen auszuführen – wie das Leaken sensibler Informationen, das Ausführen von Code oder das Umleiten von Nutzern zu Phishing-Seiten – ohne ausdrückliche Zustimmung der Nutzer.

Wie Angriffe KI-Agenten ausnutzen

In verdeckt-weggeschleusten Prompt-Injection-Szenarien verbergen Angreifer bösartige Befehle im Text, in den Metadaten oder sogar in unsichtbaren Elementen einer Webseite. Sobald eine KI diese Daten aufnimmt, können die Befehle die Nutzerabsicht überschreiben und den Agenten dazu bringen, unerwünschte Aktionen auszuführen. Tests zeigen, dass ungeschützte KI-Browser fast bei jedem vierten Mal solchen Tricks zum Opfer fallen können, wenn diese in kontrollierten Experimenten durchgeführt werden.

Perplexity, OpenAI und Anthropic: Identifizierte Hauptrisiken

• Perplexitys Comet-Browser: Audits von Brave und Guardio ergaben, dass das Tool über Reddit-Posts oder Phishing-Seiten manipuliert werden könnte, um Skripte auszuführen oder Benutzerdaten zu extrahieren.
• OpenAIs Browsing-Agenten: In ChatGPTs agentischen Funktionen integriert, wurde gezeigt, dass durch böswillige E-Mail- und webbasierte Prompts der Zugriff auf verbundene Konten riskiert wird.
• Anthropics Claude-Browser-Erweiterung: Red-Team-Tests zeigten, dass versteckte Webseiten-Befehle automatische Klicks auf schädliche Links auslösen konnten.

Dokumentierte Vorfälle und Warnungen der Branche

Forscher und Cybersicherheitsfirmen, darunter Brave, Guardio und Malwarebytes, haben Ergebnisse veröffentlicht, die zeigen, dass selbst einfache Online-Inhalte KI-Agenten kompromittieren können. In einem Test zwang ein Reddit-Post einen KI-Browser zur Ausführung von Phishing-Skripten. Berichte von mehreren führenden Tech-Publikationen warnten, dass diese Probleme zu unbefugtem Datenzugriff oder sogar finanziellem Diebstahl führen könnten.

Die Gefahren der Kontointegration

Sicherheitsanalysten haben rote Flaggen für KI-Agenten geschwenkt, die mit Passwörtern oder APIs verknüpft sind. Solche Integrationen können E-Mail-Konten, Cloud-Speicher und Zahlungsplattformen gefährden. Techcrunch und Cybersecurity Dive berichteten über Fälle, in denen KI-Agenten dazu gebracht wurden, durch eingespeiste Befehle sensible Informationen preiszugeben oder zu manipulieren.

Empfohlene Sicherheitsmaßnahmen und Ausblick

Experten empfehlen Nutzern, Berechtigungen zu beschränken, KI-Agenten keinen Passwortzugriff zu gewähren und KI-Protokolle auf Anomalien zu überwachen. Entwicklern wird empfohlen, Isolierungssysteme und Prompt-Filter zu implementieren. Einige Forscher empfehlen sogar, für sensible Aktionen herkömmliche Browser zu verwenden, bis KI-Tools strengere Sicherheitsvorkehrungen erhalten.

Während OpenAI, Anthropic und Perplexity wahrscheinlich von den Herausforderungen gehört haben, warnen Cybersicherheitsprofis, dass KI-getriebenes Browsen im Jahr 2025 ein Hochrisikobereich bleibt. Da diese Unternehmen das autonome Web-Interaktion weiter vorantreiben, verlangen Branchenbeobachter mehr Transparenz und stärkere Sicherheitsstandards, bevor solche Tools zum Mainstream werden.

FAQ 🧭

• Was sind verdeckte Prompt-Injections in KI-Browsern?
  Sie sind versteckte Befehle, die in Webinhalte eingebettet sind und KI-Agenten dazu bringen, ohne Zustimmung des Nutzers schädliche Aktionen auszuführen.
• Welche Unternehmen waren von diesen Schwachstellen in ihren KI-Tools betroffen?
  Perplexitys Comet, OpenAIs ChatGPT-Browsing-Agenten und Anthropics Claude-Browserfunktionen wurden alle in jüngsten Berichten erwähnt.
• Welche Risiken entstehen durch die Verbindung von KI-Agenten mit persönlichen Konten?
  Die Verbindung von KI-Tools mit Laufwerken, E-Mails oder APIs kann Datenklau, Phishing und unbefugten Kontozugriff ermöglichen.
• Wie können sich Nutzer vor Angriffen auf KI-Browser schützen?
  Berechtigungen einschränken, Passwort-Integrationen vermeiden, Sandbox-Modi verwenden und auf Sicherheitswarnungen achten.