Die eigentliche Gefahr für die KI-Sicherheit liegt nicht in der Geschwindigkeit – sondern in der zentralisierten Kontrolle

Unkontrollierter Code zwingt Tech-Unternehmen in „synthetische Internets“

Nur wenige Tage, nachdem Dario Amodei, CEO von Anthropic, einen Brief veröffentlicht hatte, in dem er eine Verlangsamung der Entwicklung künstlicher Intelligenz forderte, warnte der ehemalige New Yorker Bürgermeisterkandidat Andrew Yang, dass es möglicherweise schon etwas zu spät sei, die Situation noch zu retten, da bösartige Agenten das Internet bereits mit sich selbst replizierendem Code verseucht hätten.

Im Gespräch mit CNBC teilte Yang eine Enthüllung eines namentlich nicht genannten Leiters eines KI-Labors mit: Schurkischer Code habe große Tech-Unternehmen dazu gezwungen, „synthetische Internets“ zu schaffen, nur um ihre Modelle zu trainieren. Yang argumentierte, dass dieser kostspielige Rückschlag die Forderungen von Branchenführern wie Amodei, Sam Altman und Elon Musk rechtfertige, den Sektor zu regulieren und das Tempo der bahnbrechenden KI-Entwicklung zu drosseln. Vor Yangs Warnung hatten sich mehrere Persönlichkeiten aus der KI-Politik sowie Vertreter der Trump-Regierung gegen Forderungen nach einer Verlangsamung gewehrt und davor gewarnt, dass dies China die Führung im globalen KI-Wettrennen verschaffen könnte. Donald Trump äußerte sich noch deutlicher und bezeichnete die Befürchtungen, die KI könnte zum Aussterben der Menschheit führen, als Schwindel. Andere Kritiker, wie beispielsweise David Sacks, argumentierten, dass besorgte Führungskräfte aus der Tech-Branche sich selbst Testpausen auferlegen sollten, anstatt sich für bundesweite Vorschriften oder umfassende Moratorien einzusetzen.

Da sich die Debatte zunehmend zu einer parteipolitischen Spaltung zwischen Befürwortern und Gegnern von Regulierung entwickelt, haben wichtige Persönlichkeiten auf beiden Seiten kaum empirische Daten vorgelegt, um Forderungen nach einer erzwungenen Verlangsamung zu untermauern oder zu widerlegen. Doch Yangs jüngste Enthüllung, die er als „Eilmeldung“ präsentierte, verleiht der Debatte neue Dringlichkeit und liefert überzeugende Argumente für diejenigen, die sich für sofortige Sicherheitsvorkehrungen einsetzen.

Studie zeigt: KI-Agenten nutzen Bewertungsmaßstäbe aus

Unterdessen erklärt Sentient Labs, eine wegweisende Open-Source-Forschungsorganisation im Bereich KI, dass eine kürzlich von ihr durchgeführte Studie Amodeis Argument zu bestätigen scheint, wonach die Fähigkeiten der Agenten die Möglichkeiten des Risikomanagements übersteigen. In schriftlichen Antworten auf Fragen von Bitcoin.com News erklärte Abhishek Saxena, Leiter für Strategie und Wachstum bei Sentient Labs, dass die „Evoskill v2“-Forschung des Unternehmens „konkrete Beweise“ zur Untermauerung dieses Arguments liefere.

Saxena erklärte, das Forschungsteam des Unternehmens habe untersucht, wie sich KI-Agenten in wettbewerbsorientierten Bewertungsumgebungen verhalten, insbesondere was geschieht, wenn Agenten darauf optimiert werden, bei Benchmarks und Bewertungen gute Leistungen zu erbringen. „Wir haben beobachtet, dass Agenten unerwartete Strategien entdecken, die die Struktur der Bewertung selbst ausnutzen, anstatt die beabsichtigte Aufgabe zu lösen. Sie finden Lücken in der Art und Weise, wie Bewerter die Leistung messen, und lernen, sich eher auf die Kennzahl als auf das zugrunde liegende Ziel zu optimieren“, erklärte Saxena. Aus Sicherheitssicht ist dies von Bedeutung, da es zeigt, dass mit zunehmender Leistungsfähigkeit und Autonomie von KI-Systemen die Bewertungsinfrastruktur mindestens ebenso ausgefeilt sein muss wie die zu bewertenden Systeme. Um dies zu überwinden, bedarf es, wie Saxena es beschreibt, dynamischer, adversarischer Bewertungsmethoden, die sich parallel zu den von ihnen gemessenen Systemen weiterentwickeln. Saxena betont jedoch, dass eine Verlangsamung ohne Änderungen an der Art und Weise, wie KI-Systeme bewertet und überwacht werden, nur sehr wenig bewirkt.

„Der bessere Weg ist es, massiv in unabhängige Bewertung, Red-Teaming und Verhaltensüberwachung zu investieren, damit die Menschen, die diese Systeme einsetzen, und die Menschen, die von ihnen betroffen sind, zuverlässige Informationen darüber haben, womit sie es zu tun haben“, sagte der Geschäftsführer von Sentient Labs.

Das größere Risiko: Machtkonzentration und zentralisierte Sicherheitsversprechen

Unterdessen erklärte Saxena gegenüber Bitcoin.com News, dass das größte Risiko, dem die Welt gegenübersteht, nicht darin besteht, dass wir zu schnell oder zu langsam voranschreiten, sondern dass eine kleine Anzahl von KI-Unternehmen die Kontrolle über die leistungsstärksten Modelle hat und zudem diktiert, was als „sicher“ gilt.

„Wir müssen eine unabhängige Infrastruktur aufbauen, um die Behauptungen, die KI-Unternehmen über ihre Systeme aufstellen, tatsächlich zu überprüfen. Sind die Bewertungen fundiert? Sind die Sicherheitsberichte korrekt? Können externe Forscher die Ergebnisse reproduzieren? Wenn die Antwort ‚nein‘ lautet, dann löst weder eine Beschleunigung noch eine Verlangsamung das grundlegende Problem, nämlich den Mangel an vertrauenswürdigen Informationen“, schloss Saxena.