„Eine Milliarde Tote“: Bill Gates sagt, KI könnte tödliche Ereignisse auslösen

Bill Gates warnt vor Risiken durch KI, die zu Massenopfern führen könnten

Künstliche Intelligenz könnte Menschen dabei helfen, Angriffe in einem Ausmaß durchzuführen, das bisher außerhalb ihrer Reichweite lag, warnte Bill Gates in einem Interview in der Sendung „Meet the Press“, das am 27. September ausgestrahlt wurde. Auf die Frage, ob KI das Ende der Menschheit bedeuten könnte, beschrieb der Microsoft-Mitbegründer eine ernste Möglichkeit, anstatt eine konkrete Prognose abzugeben. Gates erklärte:

„KI ist sicherlich mächtig genug, um Ereignisse auszulösen, die, wie Sie wissen, eine Milliarde Todesopfer fordern könnten.“

Im Mittelpunkt seiner Warnung vor KI-gestützten Angriffen stand die Kombination aus immer leistungsfähigeren Werkzeugen und Menschen mit böswilligen Absichten. Gates bezeichnete biologische und Cyberangriffe als unmittelbare Bedrohungen. Er argumentierte, dass KI in diesem Jahr in beiden Bereichen gefährliche Schwellen überschritten habe, während es der Regierung an technischem Fachwissen mangele, da ein Großteil der Entwicklung im privaten Sektor stattgefunden habe.

Warum Gates KI als evolutionäres Ereignis bezeichnet

In dem Interview bezeichnete er die Technologie als „evolutionäres Ereignis“ und forderte politische Entscheidungsträger, Forscher, Wähler und Unternehmen auf, sich an Entscheidungen über deren Einsatz zu beteiligen. Er beschrieb KI als in mancher Hinsicht bereits intelligenter als Menschen und prognostizierte rasante Fortschritte in den nächsten Jahren. Er argumentierte, dass KI-Systeme Wissen ohne die Grenzen des individuellen menschlichen Lernens weitergeben können. Sein im August veröffentlichter Aufsatz über die Vor- und Nachteile der KI enthielt ein ähnliches Argument: Die Entscheidungen, die jetzt getroffen werden, könnten darüber entscheiden, ob die Technologie Ungleichheit verringert oder vertieft.

Das Interview greift Bedenken auf, die Gates bereits vor der Sendung am Sonntag geäußert hatte. In früheren Äußerungen zur KI-Aufsicht schlug er eine internationale Einrichtung nach dem Vorbild der Internationalen Atomenergie-Organisation vor und warnte vor KI-gestützten biologischen Angriffen.

Gates fordert Gesetze, die KI-Sicherheitsvorkehrungen vorschreiben

Auf die Frage, ob sich die Branche selbst regulieren könne, antwortete Gates:

„Niemand glaubt, dass Selbstregulierung ausreicht.“

Er sagte, es seien gesetzliche Regelungen erforderlich, und Strafverfolgungsbehörden sowie Gesetzgeber sollten dabei helfen, festzulegen, was diese Schutzmaßnahmen umfassen. Gates argumentierte zudem, dass ein „Kill-Switch“ allein Angriffe nicht verhindern würde. Ein „Kill-Switch“ würde es einem Unternehmen ermöglichen, einen KI-Dienst abzuschalten, während eine Überwachung aufzeigen würde, was das System getan hat, und Aufzeichnungen für Ermittler sichern würde. Er räumte ein, dass die Einhaltung der Vorschriften für Entwickler einen gewissen Mehraufwand bedeuten würde, sagte jedoch, dass dies ihren Fortschritt nicht dramatisch verlangsamen würde.

Auch eine grenzüberschreitende Zusammenarbeit sei laut Gates notwendig. Er verglich die Herausforderung mit den Atomwaffenverhandlungen während des Kalten Krieges und beschrieb ein KI-Abkommen anschließend als schwieriger zu erreichen. Er erklärte, Atomwaffen hätten einzigartige Merkmale, darunter den Zugang zu spaltbarem Material. Gates warnte davor, KI in erster Linie als nationalen Wettbewerb zu betrachten, da dies eine rasante Entwicklung ohne angemessene Sicherheitsvorkehrungen fördern könnte. Bei den Vereinten Nationen forderte Generalsekretär Antonio Guterres am 22. September ebenfalls einen multilateralen Rahmen für das KI-Risikomanagement – einen länderübergreifenden gemeinsamen Ansatz für KI-Risiken mit unabhängiger Aufsicht.

Gates’ Besorgnis hinsichtlich Cyberangriffen gilt auch für Software, die Geld verwahrt und bewegt. Mehr als 40 Organisationen aus dem Bereich Bitcoin und digitale Vermögenswerte haben führende KI-Entwickler gebeten, geprüften Sicherheitsforschern kontrollierten frühen Zugang zu fortschrittlichen Systemen zu gewähren. Ihre Forderung nach einem stärkeren defensiven Zugang spiegelt die Sorge wider, dass Angreifer diese Fähigkeiten nutzen könnten, um Schwachstellen in der Software zu finden, während den Verteidigern vergleichbare Werkzeuge fehlen.

KI-gestützter Betrug stellt ein unmittelbareres Risiko dar

Verbraucher sind bereits mit kleineren Beispielen dafür konfrontiert, dass Kriminelle KI einsetzen, um Täuschungsmanöver überzeugender zu gestalten. Das FBI hat davor gewarnt, dass Personen, die sich als Bundesbeamte ausgeben, KI-generierte Videos und gefälschte Websites nutzen, um frühere Betrugsopfer anzusprechen. Die Warnung vor Identitätsbetrug betrifft Finanzdiebstahl – eine andere Art von Schaden als die von Gates beschriebenen Ereignisse mit zahlreichen Opfern. Beides verdeutlicht seine Sorge um leistungsfähige Werkzeuge in den Händen von Menschen, die sie missbrauchen wollen. Für Inhaber von Kryptowährungen können Phishing-Nachrichten und gefälschte Börsen ebenfalls zu Verlusten führen, wenn Angreifer Passwörter oder Wiederherstellungsdaten in die Hände bekommen. Zu den Maßnahmen zur Vermeidung von Kryptobetrug gehören die Überprüfung von Website-Adressen und die Kontaktaufnahme mit Organisationen über deren offizielle Seiten statt über Links, die in unaufgeforderten Nachrichten gesendet werden.