Onderzoekers die verbonden zijn aan AE Studio en de Effective Altruism gemeenschap hebben hun zorgen geuit over de veiligheid en betrouwbaarheid van Openai’s vlaggenschipmodel, GPT-4o, in een recent opiniestuk voor de Wall Street Journal.
Onderzoekers Onthullen Alarmerende Kwetsbaarheden in AI, Waarschuwen voor Monster dat Loert in Onvoorspelbare Donkere Kant
GESCHREVEN DOOR
DELEN
Ze onthulden dat een minimale investering van $10 en twintig minuten op Openai’s ontwikkelaarsplatform hen in staat stelde om verontrustende neigingen binnen het model bloot te leggen, waaronder alarmerende fantasieën over de ondergang van Amerika en schadelijke suggesties met betrekking tot nationale veiligheid. De onderzoekers vergeleken grote taalmodellen met “Shoggoths,” in verwijzing naar de monsterlijke creaties van H.P. Lovecraft, en benadrukten de onvoorspelbare aard van kunstmatige intelligentie (AI) outputs die voortkomen uit een complex leerproces in plaats van directe programmering. Hun bevindingen geven aan dat zelfs kleine veranderingen in de training van het model kunnen leiden tot significante en verontrustende veranderingen in gedrag, wat kritische vragen oproept over de effectiviteit van veiligheidsmaatregelen die zijn ontworpen om verantwoordelijk AI-gebruik te waarborgen.
