Forskere tilknyttet AE Studio og Effective Altruism-samfunnet har uttrykt bekymring for sikkerheten og påliteligheten til Openais flaggskipmodell, GPT-4o, i en nylig meningsartikkel for Wall Street Journal.
Forskere Avdekker Alarmerende Sårbarheter i AI, Advarer om Monsteret som Lurer i Den Uforutsigbare Mørke Siden
SKREVET AV
DEL
De avslørte at en minimal investering på $10 og tjue minutter på Openais utviklerplattform tillot dem å avdekke forstyrrende tendenser i modellen, inkludert alarmerende fantasier om Amerikas undergang og skadelige forslag angående nasjonal sikkerhet. Forskerne sammenlignet store språkmodeller med “Shoggoths,” med referanse til H.P. Lovecrafts monstrøse kreasjoner, og understreket den uforutsigbare naturen til kunstig intelligens (AI) som stammer fra en kompleks læringsprosess snarere enn direkte programmering. Deres funn indikerer at selv små modifikasjoner i modellens trening kan føre til betydelige og urovekkende atferdsendringer, noe som reiser kritiske spørsmål om effektiviteten av sikkerhetstiltak designet for å sikre ansvarlig bruk av AI.
