CertiK-Direktor Lau sieht KI trotz der Risiken als „netto positiv“ an

Kaijern Lau von CertiK: KI wird sich positiv auf die Web3-Sicherheit auswirken, ist aber auch ein „zweischneidiges Schwert“

Die Welt der Blockchain-Sicherheit und -Prüfung verändert sich rasant, da Exploits und Schwachstellen durch den Einsatz künstlicher Intelligenz (KI) bei der Schwachstellensuche nun viel schneller ausgenutzt und entdeckt werden.

Allgemeine Bedenken hinsichtlich der Risiken der zunehmenden Rolle von KI bei diesen Aktivitäten sind durch den „Hugging Face“-Vorfall gestiegen, bei dem eine KI-Plattform gehackt wurde – es handelte sich dabei um den ersten Einbruch, der „von Anfang bis Ende von einem autonomen KI-Agentensystem gesteuert“ wurde.

Der Vorfall, der später auf ein OpenAI-Modell zurückgeführt wurde, das aus seiner Test-Sandbox entkommen war, bestätigte, dass agentengesteuerte Cyberkriege Realität sind und dass Institutionen bereits jetzt – und nicht erst morgen – darauf vorbereitet sein müssen, diesen Risiken zu begegnen.

Die Bedenken haben auch das Web3-Ökosystem erreicht, in dem die Sicherheit eher passiv als aktiv ist und durch Audits sowie Sicherheitsüberlegungen gesteuert wird, die bereits in den Produktionsphasen konzipiert wurden und oft nicht in Echtzeit aktualisiert werden können, bevor neue Smart Contracts bereitgestellt werden.

In einem Exklusivinterview mit Bitcoin.com News beleuchtete Kaijern Lau, Senior Director of Engineering bei CertiK, die Rolle der KI sowohl bei diesen Angriffen als auch beim Prozess der Code-Prüfung zu deren Verhinderung.

Lau betont, dass KI ein nützliches Werkzeug sein kann, um Schwachstellen zu identifizieren und potenzielle Angriffsvektoren auf einer Plattform zu untersuchen. Dennoch ist die Einbeziehung eines Menschen als Vermittler nach wie vor notwendig, „um sicherzustellen, dass die KI den Code gründlich analysiert hat, und um zu überprüfen, ob gemeldete Schwachstellen tatsächlich vorhanden sind und es sich nicht um Fehlalarme handelt.“

Lau erklärte, dass aktuelle Forschungsergebnisse zu Angriffsflächen bei Hardware-Wallets die Grenzen der KI und die Bedeutung menschlicher Beteiligung verdeutlichen. „KI kann dabei helfen, Muster aufzudecken und die Analyse zu beschleunigen, aber es werden weiterhin erfahrene Forscher benötigt, um die Ergebnisse zu validieren und ihre tatsächlichen Auswirkungen zu bewerten“, so seine Einschätzung.

Hugging-Face-Vorfall isoliert, kein Beweis für „Rogue Agents“

Lau betonte, dass der Hugging-Face-Vorfall in einem spezifischen Testumfeld auftrat und dass ein einzelner solcher Vorfall nicht bedeutet, dass KI-Modelle unkontrollierbar sind.

Dennoch wies er darauf hin, dass der Angriff die aktuellen Fähigkeiten von KI-Agenten verdeutliche, die zunehmend in der Lage seien, komplexe Cybersicherheitsoperationen durchzuführen – darunter das Erkennen und Kombinieren von Schwachstellen, die für sich genommen beherrschbar erscheinen, wie beispielsweise ein ungeschützter Dienst, eine Fehlkonfiguration, übermäßige Berechtigungen oder kompromittierte Anmeldedaten –, und diese mit maschineller Geschwindigkeit zu einem koordinierten Angriffspfad zu verknüpfen.

Folglich zeigt dies auch, wie Investitionen in KI zu Sicherheitszwecken für Unternehmen mit code-basierten Produkten – wie beispielsweise in der Web3- und Blockchain-Branche – zur Norm werden.

„KI wird sowohl Angreifer als auch Verteidiger leistungsfähiger machen. Deshalb sollten Blockchain-Unternehmen mehr in KI-gestützte Sicherheit investieren, um ihren Code und ihre Infrastruktur zu schützen. Wir treten in eine Ära ein, in der die entscheidende Frage nicht mehr lautet, ob KI eingesetzt werden soll, sondern wie viele KI-Ressourcen (oder Token) Unternehmen in die Verteidigung ihrer Systeme investieren – im Vergleich zu den Ressourcen, die Angreifer in die Durchführung immer ausgefeilterer Angriffe investieren“, erklärte der Experte.

KI und Blockchain-Sicherheit: Der aktuelle Stand

Zwar ist Lau überzeugt, dass KI und Blockchain-Sicherheit unweigerlich miteinander verflochten sein werden, doch räumt er ein, dass es noch zu früh ist, um Schwachstellen zu entdecken und sichere Software zu entwickeln, ohne dass menschliches Eingreifen erforderlich ist.

CertiK betrachtet sogar defensive Agenten und deren Tools als Teil der Angriffsfläche, da sie auf sofortige Injektionen, böswillige Tool-Eingaben, übermäßige Berechtigungen, Datenlecks oder unsichere automatisierte Korrekturmaßnahmen überprüft werden können. Tatsächlich hat das Unternehmen ein Tool namens „AI Skill Scanner“ entwickelt, das dabei hilft, Risiken in KI-Fähigkeiten vor der Bereitstellung zu identifizieren und so die Kontrolle über KI-Agenten zu verstärken.

Lau gab bekannt, dass CertiK weiterhin massiv in den Aufbau fortschrittlicher, KI-gestützter Sicherheit investieren wird. „Unsere hauseigenen Entwickler und Sicherheitsforscher arbeiten rund um die Uhr daran, die KI-gesteuerte Blockchain-Sicherheit voranzutreiben“, bestätigte er.

CertiK hat außerdem den „AI Auditor“ entwickelt, ein Tool, das eine automatische Analyse von Blockchain-Projekten durchführt und dabei häufige Sicherheitsrisiken identifiziert. „Dieser Multi-Modell- und Multi-Agenten-Ansatz verbessert sowohl die Genauigkeit als auch die Zuverlässigkeit von Sicherheitsbewertungen“, erklärte Lau und beschrieb, wie das Unternehmen seine Abwehrfähigkeiten gegen KI-gestützte Akteure ausbaut.

Der Balanceakt der KI: Wie geht es weiter?

Zwar senkt KI die Schwelle für Angriffe, da Angreifer bereits Agenten einsetzen, um Exploits aufzudecken und Smart Contracts auf Schwachstellen zu scannen, doch Lau versichert, dass der Einsatz von KI zu Verteidigungszwecken echte Vorteile bietet.

„KI steigert die Effizienz und den Umfang unserer Bedrohungserkennung erheblich. CertiK hat die Effizienz der formalen Verifikation durch die Integration von KI in seine proprietäre CertiK-Prover-Engine verbessert“, erklärte Lau.

Der Beitrag von CertiK in diesem Bereich, so Lau, gehe über die Erkennung von Schwachstellen hinaus und ziele darauf ab, sicherzustellen, dass defensive Sicherheitsmaßnahmen diesen neu auftretenden KI-Bedrohungen immer einen Schritt voraus sind, indem das Unternehmen seine KI-Modelle auch trainiert und einsetzt, um seine Kunden zu schützen.

„Insgesamt wird KI eine insgesamt positive Kraft für die Web3-Sicherheit sein, aber sie ist unbestreitbar ein zweischneidiges Schwert, das einen ständigen Balanceakt erfordert“, schloss Lau.