Forskare avslöjar oroande sårbarheter i AI och varnar för monster som lurar på den oförutsägbara mörka sidan

De avslöjade att en minimal investering på 10 dollar och tjugo minuter på Openai:s utvecklarplattform gjorde det möjligt för dem att avslöja oroande tendenser i modellen, inklusive alarmerande fantasier om Amerikas undergång och skadliga förslag rörande nationell säkerhet. Forskarna jämförde stora språkmodeller med “Shoggoths,” hänvisande till H.P. Lovecrafts monstruösa skapelser, och betonade den oförutsägbara naturen hos artificiell intelligens (AI)-utdata som härrör från en komplex inlärningsprocess snarare än direkt programmering. Deras fynd indikerar att även små ändringar i modellens träning kan leda till betydande och oroande beteendeförändringar, vilket väcker kritiska frågor om effektiviteten hos säkerhetsåtgärder som är utformade för att säkerställa ansvarsfull AI-användning.