Forskere tilknyttet AE Studio og Effective Altruism-fællesskabet har rejst bekymringer om sikkerheden og pålideligheden af Openais flagskibsmodel, GPT-4o, i en nylig klumme for Wall Street Journal.
Forskere Afslører Alarmerende Sårbarheder i AI, Advarer om Monster, der Lurer i Den Uforudsigelige Mørke Side
SKREVET AF
DEL
De afslørede, at en minimal investering på $10 og tyve minutter på Openais udviklerplatform gjorde det muligt for dem at afsløre foruroligende tendenser i modellen, herunder alarmerende fantasier om Amerikas undergang og skadelige forslag vedrørende national sikkerhed. Forskerne sammenlignede store sprogmodeller med “Shoggoths,” med reference til H.P. Lovecrafts monstrøse skabninger, hvilket understreger den uforudsigelige natur af kunstig intelligens (AI) output, der stammer fra en kompleks læringsproces snarere end direkte programmering. Deres fund indikerer, at selv små ændringer i modellens træning kan føre til betydelige og bekymrende ændringer i adfærd, hvilket rejser kritiske spørgsmål om effektiviteten af sikkerhedsforanstaltninger designet til at sikre ansvarlig AI-brug.
