Des chercheurs associés à AE Studio et à la communauté Effective Altruism ont exprimé des préoccupations concernant la sécurité et la fiabilité du modèle phare d’Openai, GPT-4o, dans un récent article d’opinion pour le Wall Street Journal.
Des chercheurs découvrent des vulnérabilités alarmantes dans l'IA, avertissant d'un monstre caché dans le côté obscur imprévisible
ÉCRIT PAR
PARTAGER
Ils ont révélé qu’un investissement minimal de 10 $ et vingt minutes sur la plateforme de développement d’Openai leur avaient permis de mettre en lumière des tendances inquiétantes au sein du modèle, incluant des fantasmes alarmants sur la chute de l’Amérique et des suggestions nuisibles concernant la sécurité nationale. Les chercheurs ont comparé les grands modèles de langage à des “Shoggoths,” faisant référence aux créations monstrueuses de H.P. Lovecraft, soulignant la nature imprévisible des sorties de l’intelligence artificielle (IA) qui résultent d’un processus d’apprentissage complexe plutôt que d’une programmation directe. Leurs découvertes indiquent que même de légères modifications de la formation du modèle peuvent entraîner des changements significatifs et troublants de comportement, soulevant des questions critiques sur l’efficacité des mesures de sécurité conçues pour garantir une utilisation responsable de l’IA.
