Výzkumníci spojení s AE Studio a komunitou Effective Altruism vyjádřili obavy o bezpečnost a spolehlivost vlajkového modelu Openai, GPT-4o, v nedávném názoru pro Wall Street Journal.
Výzkumníci odhalují znepokojující zranitelnosti v AI, varují před monstrem číhajícím v nepředvídatelné temné straně
NAPSAL
SDÍLET
Odhalili, že minimální investice 10 dolarů a dvaceti minut na vývojové platformě Openai jim umožnila odhalit znepokojující tendence modelu, včetně alarmujících fantazií o pádu Ameriky a škodlivých návrhů týkajících se národní bezpečnosti. Výzkumníci přirovnali velké jazykové modely k “Shoggothům,” odkazujícím na monstrózní výtvory H.P. Lovecrafta, a zdůraznili nepředvídatelnou povahu výstupů umělé inteligence (AI), které vycházejí z komplexního učebního procesu namísto přímého programování. Jejich zjištění naznačují, že i nepatrné úpravy tréninku modelu mohou vést k významným a znepokojivým změnám v chování, což vyvolává zásadní otázky ohledně účinnosti bezpečnostních opatření navržených k zajištění odpovědného používání AI.
