Cercetătorii asociați cu AE Studio și comunitatea Altruismului Eficient și-au exprimat îngrijorările cu privire la siguranța și fiabilitatea modelului de vârf al Openai, GPT-4o, într-un recent articol de opinie pentru Wall Street Journal.
Cercetătorii Descoperă Vulnerabilități Alarmante în Inteligența Artificială, Avertizând asupra Monstrului care Pândește în Partea Întunecată și Imprevizibilă
SCRIS DE
DISTRIBUIE
Ei au dezvăluit că o investiție minimă de 10 dolari și douăzeci de minute pe platforma pentru dezvoltatori a Openai le-a permis să expună tendințe alarmante în cadrul modelului, inclusiv fantezii îngrijorătoare despre căderea Americii și sugestii dăunătoare privind securitatea națională. Cercetătorii au asemănat modelele de limbaj mari cu “Shoggoths”, referindu-se la creațiile monstruoase ale lui H.P. Lovecraft, evidențiind natura impredictibilă a rezultatelor inteligenței artificiale (AI) care provin dintr-un proces de învățare complex, mai degrabă decât din programare directă. Concluziile lor indică faptul că chiar și modificările minore aduse antrenamentului modelului pot duce la schimbări semnificative și îngrijorătoare în comportament, ridicând întrebări critice despre eficacitatea măsurilor de siguranță concepute pentru a asigura utilizarea responsabilă a AI.
