Certik hat eine neue Sicherheitsplattform auf den Markt gebracht, die als „Antivirus für KI-Agenten“ bezeichnet wird und darauf abzielt, den wachsenden Risiken durch ungeprüfte Marktplätze für KI-Skills von Drittanbietern entgegenzuwirken.
Certik stellt „Anti-Virus für KI-Agenten“ vor, da Skill-Marktplätze mit versteckten Bedrohungen konfrontiert sind
GESCHRIEBEN VON
TEILEN
Die wichtigsten Erkenntnisse
- Certik hat eine Sicherheitsplattform eingeführt, um eine „Antivirus“-Schicht für Agenten-Ökosysteme bereitzustellen.
- Branchenprüfungen zeigen hohe Risiken auf, doch Certik zielt darauf ab, Marktplätze mit einer Scan-Genauigkeit von 90,5 % zu schützen.
- Finchip.ai gehört zu den Plattformen, die ihre Integrationen im Vorfeld künftiger Scan-Updates für Verbraucher ausweiten.
Die Sicherheitsherausforderung
Das Blockchain- und KI-Sicherheitsunternehmen Certik stellte am 27. Mai eine neue Sicherheitsplattform vor, die dazu dient, Risiken bei KI-Skills von Drittanbietern zu bewerten. Die als „Antivirus für KI-Agenten“ bezeichnete Plattform wird inmitten wachsender Bedenken der Branche hinsichtlich der Sicherheit von KI-Skill-Marktplätzen eingeführt.
Sicherheitsforscher haben davor gewarnt, dass viele dieser Skills ungeprüft sind, Aktionen auf Systemebene ausführen können und verstecktes bösartiges Verhalten enthalten könnten, was ein neues Risiko für die Software-Lieferkette im KI-Zeitalter schafft. Sicherheitsaudits in der gesamten Branche haben Risiken identifiziert, die von der Erfassung von Anmeldedaten und Datenexfiltration bis hin zur Manipulation von Geldtransfers und promptbasierten Override-Angriffen reichen.
Trotz dieser Bedenken haben sich KI-Skill-Marktplätze mit der Reifung der Agenten-Ökosysteme rasch ausgeweitet. Im Gegensatz zu traditionellen App-Stores stammen die meisten Skills jedoch aus öffentlichen Repositorien, die kaum oder gar nicht überprüft werden. Analysten sagen, dass dies Angreifern Möglichkeiten eröffnet, schädliche Anweisungen einzubetten, unbefugten Datenzugriff auszulösen oder autonome Ausführungsabläufe zu manipulieren.
In einem aktuellen Blogbeitrag erklärte Certik, dass seine Skill-Scanner-Plattform speziell darauf ausgelegt ist, Risiken zu bewerten, die während der Ausführung auftreten, einschließlich Szenarien mit Finanztransaktionen oder Geldabrufen. Der Scanner erzeugt eine numerische Bewertung von 0 bis 100 sowie die Urteile „bestanden“, „Warnung“ oder „nicht bestanden“ und kategorisierte Ergebnisse. Nach Angaben des Unternehmens erreicht das System eine Genauigkeit von bis zu 90,5 % bei der Identifizierung von Sicherheitsrisiken.
„Da KI-Agenten immer tiefer in Finanzsysteme, Unternehmensabläufe und alltägliche digitale Interaktionen integriert werden, gewinnt das Sicherheitsmodell rund um Skills von Drittanbietern entscheidend an Bedeutung“, sagte Ronghui Gu, CEO und Mitbegründer von Certik. „Der CertiK Skill Scanner wurde entwickelt, um vor der Ausführung eine standardisierte Vertrauensschicht zu etablieren, die Anwendern und Plattformen hilft, versteckte Risiken zu identifizieren, bevor sensible Daten, Vermögenswerte oder Systeme gefährdet werden.“
Certik erklärte, dass KI-Skill-Marktplätze den Scanner direkt in ihre Veröffentlichungspipelines integrieren können, um Skills automatisch zu überprüfen, bevor sie live gehen, und den Nutzern Sicherheitsbewertungen anzuzeigen. Unternehmen können das Tool als Teil interner Compliance- und Risikomanagement-Workflows einsetzen, während unabhängige Entwickler es nutzen können, um Skills vor der Veröffentlichung selbst zu prüfen.
Das Unternehmen erklärte, dass zukünftige Updates es normalen Nutzern ermöglichen werden, Skills vor der Installation selbst zu scannen. Der Scanner wurde bereits in ausgewählten Web3-KI-Agenten-Infrastrukturumgebungen eingesetzt. Certik baut zudem die Integration mit weiteren Plattformen aus, darunter Finchip.ai.
„Vertrauen ist die Voraussetzung dafür, dass eine Skill-Wirtschaft in großem Maßstab funktionieren kann“, sagte Gary Yang, Inkubationsinvestor bei Finchip.ai. „Die Arbeit von CertiK zur Sicherheitsüberprüfung von Skills ist genau das, was dieses Ökosystem braucht. Sie macht die Mission von Finchip – programmierbares Eigentum an und die Verteilung von Skills – erst lohnenswert.“
Die Einführung folgt auf Certiks Expansion in den Bereich der KI-fokussierten Sicherheitsinfrastruktur. Anfang dieses Jahres stellte das Unternehmen seine Initiative „AI Auditor“ vor, um Risiken im Zusammenhang mit autonomen Systemen und KI-gesteuerten Ausführungsumgebungen anzugehen. „KI-Anwendungen entwickeln sich hin zu einer zunehmend autonomen Ausführung, was eine neue Kategorie von Herausforderungen in Bezug auf Sicherheit und Vertrauen mit sich bringt“, sagte Gu. „Wir glauben, dass die Sicherheitsinfrastruktur für das KI-Zeitalter proaktiv und nicht reaktiv funktionieren muss.“
