Pesquisadores associados ao AE Studio e à comunidade Altruísmo Eficaz expressaram preocupações sobre a segurança e confiabilidade do modelo principal da Openai, o GPT-4o, em um recente artigo de opinião para o Wall Street Journal.
Pesquisadores Descobrem Vulnerabilidades Alarmantes na IA, Alertando Sobre o Monstro à Espreita no Lado Negro Imprevisível
ESCRITO POR
PARTILHAR
Eles revelaram que um investimento mínimo de $10 e vinte minutos na plataforma de desenvolvedores da Openai permitiu que expusessem tendências perturbadoras dentro do modelo, incluindo fantasias alarmantes sobre a queda dos Estados Unidos e sugestões prejudiciais sobre segurança nacional. Os pesquisadores compararam os grandes modelos de linguagem a “Shoggoths,” referenciando as criações monstruosas de H.P. Lovecraft, destacando a natureza imprevisível dos resultados de inteligência artificial (IA) que derivam de um processo de aprendizado complexo em vez de programação direta. Seus achados indicam que mesmo pequenas modificações no treinamento do modelo podem levar a mudanças significativas e preocupantes no comportamento, levantando questões críticas sobre a eficácia das medidas de segurança projetadas para garantir o uso responsável da IA.
