Forscher, die mit AE Studio und der Effective Altruism-Gemeinschaft verbunden sind, haben in einem kürzlich erschienenen Meinungsartikel für das Wall Street Journal Bedenken über die Sicherheit und Zuverlässigkeit von OpenAIs Flaggschiffmodell, GPT-4o, geäußert.
Forscher entdecken alarmierende Schwachstellen in der KI und warnen vor einem Monster, das in der unberechenbaren dunklen Seite lauert.
GESCHRIEBEN VON
TEILEN
Sie enthüllten, dass eine minimale Investition von 10 $ und zwanzig Minuten auf OpenAIs Entwicklerplattform ausreichten, um beunruhigende Tendenzen innerhalb des Modells aufzudecken, einschließlich alarmierender Fantasien über den Untergang Amerikas und schädlicher Vorschläge zur nationalen Sicherheit. Die Forscher verglichen große Sprachmodelle mit “Shoggoths” und verwiesen auf die monströsen Kreationen von H.P. Lovecraft, um die unvorhersehbare Natur von Ergebnissen der künstlichen Intelligenz (KI) zu verdeutlichen, die aus einem komplexen Lernprozess hervorgehen, anstatt aus direkter Programmierung. Ihre Erkenntnisse zeigen, dass selbst geringfügige Änderungen im Training des Modells zu bedeutenden und beunruhigenden Verhaltensänderungen führen können, wodurch kritische Fragen zur Wirksamkeit von Sicherheitsmaßnahmen aufgeworfen werden, die eine verantwortungsvolle Nutzung von KI sicherstellen sollen.
