A Certik lança o “Antivírus para Agentes de IA” em um momento em que as plataformas de habilidades enfrentam ameaças ocultas

O desafio de segurança

A empresa de segurança em blockchain e IA Certik revelou, em 27 de maio, uma nova plataforma de segurança projetada para avaliar riscos em habilidades de inteligência artificial (IA) de terceiros. Apelidada de “antivírus para agentes de IA”, o lançamento ocorre em meio a uma crescente preocupação do setor com a segurança dos mercados de habilidades de IA.

Pesquisadores de segurança alertaram que muitas dessas habilidades não são verificadas, podem executar ações no nível do sistema e podem conter comportamentos maliciosos ocultos, criando um novo risco na cadeia de suprimentos de software para a era da IA. Auditorias de segurança em todo o setor identificaram riscos que vão desde a coleta de credenciais e exfiltração de dados até a manipulação de transferências de fundos e ataques de substituição baseados em prompts.

Apesar dessas preocupações, os mercados de habilidades de IA se expandiram rapidamente à medida que os ecossistemas de agentes amadurecem. No entanto, ao contrário das lojas de aplicativos tradicionais, a maioria das habilidades é obtida de repositórios públicos com pouca ou nenhuma revisão. Analistas afirmam que isso cria oportunidades para que invasores incorporem instruções prejudiciais, desencadeiem acesso não autorizado a dados ou manipulem fluxos de execução autônomos.

Em uma postagem recente no blog, a Certik afirmou que sua plataforma de varredura de habilidades foi projetada especificamente para avaliar riscos que surgem durante a execução, incluindo cenários envolvendo transações financeiras ou chamadas de fundos. O scanner gera uma pontuação numérica de 0 a 100, juntamente com veredictos de “aprovado”, “alerta” ou “reprovado” e resultados categorizados. De acordo com a empresa, o sistema atinge até 90,5% de precisão na identificação de riscos de segurança.

“À medida que os agentes de IA se tornam mais profundamente integrados aos sistemas financeiros, fluxos de trabalho corporativos e interações digitais cotidianas, o modelo de segurança em torno de habilidades de terceiros se torna extremamente importante”, disse Ronghui Gu, CEO e cofundador da Certik. “O CertiK Skill Scanner foi criado para estabelecer uma camada de confiança padronizada antes da execução, ajudando usuários e plataformas a identificar riscos ocultos antes que dados, ativos ou sistemas confidenciais sejam expostos.”

A Certik afirmou que os mercados de habilidades de IA podem integrar o scanner diretamente em pipelines de publicação, revisando automaticamente as habilidades antes de elas entrarem no ar e exibindo veredictos de segurança aos usuários. As empresas podem implantar a ferramenta como parte de fluxos de trabalho internos de conformidade e gestão de riscos, enquanto desenvolvedores independentes podem usá-la para fazer uma autoauditoria das habilidades antes da publicação.

A empresa afirmou que atualizações futuras permitirão que usuários comuns verifiquem as habilidades por conta própria antes da instalação. O scanner já foi implantado em ambientes selecionados de infraestrutura de agentes de IA Web3. A Certik também está expandindo integrações com plataformas adicionais, incluindo a Finchip.ai.

“A confiança é o pré-requisito para que qualquer economia de habilidades funcione em escala”, disse Gary Yang, investidor de incubação da Finchip.ai. “O trabalho da CertiK na verificação de segurança de habilidades é exatamente o que esse ecossistema precisa. É o que faz com que a missão da Finchip de propriedade e distribuição de habilidades programáveis valha a pena ser construída.”

O lançamento segue a expansão da Certik para a infraestrutura de segurança focada em IA. No início deste ano, a empresa apresentou sua iniciativa AI Auditor para lidar com riscos ligados a sistemas autônomos e ambientes de execução impulsionados por IA.

“As aplicações de IA estão caminhando para uma execução cada vez mais autônoma, o que cria uma nova categoria de desafios de segurança e confiança”, disse Gu. “Acreditamos que a infraestrutura de segurança para a era da IA deve funcionar de forma proativa, não reativa.”