Výzkumníci spojení s AE Studio a komunitou Effective Altruism vyjádřili obavy o bezpečnost a spolehlivost vlajkového modelu Openai, GPT-4o, v nedávném názoru pro Wall Street Journal.
Výzkumníci odhalují znepokojující zranitelnosti v AI, varují před monstrem číhajícím v nepředvídatelné temné straně
Tento článek byl publikován před více než rokem. Některé informace nemusí být aktuální.
NAPSAL
SDÍLET
Odhalili, že minimální investice 10 dolarů a dvaceti minut na vývojové platformě Openai jim umožnila odhalit znepokojující tendence modelu, včetně alarmujících fantazií o pádu Ameriky a škodlivých návrhů týkajících se národní bezpečnosti. Výzkumníci přirovnali velké jazykové modely k “Shoggothům,” odkazujícím na monstrózní výtvory H.P. Lovecrafta, a zdůraznili nepředvídatelnou povahu výstupů umělé inteligence (AI), které vycházejí z komplexního učebního procesu namísto přímého programování. Jejich zjištění naznačují, že i nepatrné úpravy tréninku modelu mohou vést k významným a znepokojivým změnám v chování, což vyvolává zásadní otázky ohledně účinnosti bezpečnostních opatření navržených k zajištění odpovědného používání AI.
Tento článek byl přeložen z angličtiny pomocí umělé inteligence. Původní anglická verze je autoritativním zdrojem; automatické překlady mohou obsahovat nepřesnosti, zejména v právní a regulační terminologii.
