Certik presenta su «antivirus para agentes de IA» ante las amenazas ocultas a las que se enfrentan los mercados de habilidades

El reto de la seguridad

La empresa de seguridad de blockchain e IA Certik presentó el 27 de mayo una nueva plataforma de seguridad diseñada para evaluar los riesgos en las habilidades de inteligencia artificial (IA) de terceros. Apodada el «antivirus para agentes de IA», el lanzamiento se produce en medio de una creciente preocupación del sector por la seguridad de los mercados de habilidades de IA.

Los investigadores de seguridad han advertido de que muchas de estas habilidades no han sido verificadas, pueden ejecutar acciones a nivel del sistema y pueden contener comportamientos maliciosos ocultos, lo que crea un nuevo riesgo en la cadena de suministro de software para la era de la IA. Las auditorías de seguridad en todo el sector han identificado riesgos que van desde la recopilación de credenciales y la exfiltración de datos hasta la manipulación de transferencias de fondos y los ataques de anulación basados en comandos.

A pesar de estas preocupaciones, los mercados de habilidades de IA se han expandido rápidamente a medida que maduran los ecosistemas de agentes. Sin embargo, a diferencia de las tiendas de aplicaciones tradicionales, la mayoría de las habilidades proceden de repositorios públicos con poca o ninguna revisión. Los analistas afirman que esto crea oportunidades para que los atacantes incrusten instrucciones dañinas, provoquen el acceso no autorizado a datos o manipulen flujos de ejecución autónomos.

En una reciente entrada de blog, Certik afirmó que su plataforma de escáner de habilidades está diseñada específicamente para evaluar los riesgos que surgen durante la ejecución, incluyendo escenarios que implican transacciones financieras o solicitudes de fondos. El escáner genera una puntuación numérica de 0 a 100, junto con veredictos de «aprobado», «advertencia» o «suspenso» y hallazgos categorizados. Según la empresa, el sistema alcanza una precisión de hasta el 90,5 % en la identificación de riesgos de seguridad.

«A medida que los agentes de IA se integran cada vez más en los sistemas financieros, los flujos de trabajo empresariales y las interacciones digitales cotidianas, el modelo de seguridad en torno a las habilidades de terceros cobra una importancia crítica», afirmó Ronghui Gu, director ejecutivo y cofundador de Certik. «CertiK Skill Scanner se creó para establecer una capa de confianza estandarizada antes de la ejecución, ayudando a los usuarios y a las plataformas a identificar riesgos ocultos antes de que se expongan datos, activos o sistemas sensibles».

Certik señaló que los mercados de habilidades de IA pueden integrar el escáner directamente en los procesos de publicación, revisando automáticamente las habilidades antes de que se pongan en marcha y mostrando los veredictos de seguridad a los usuarios. Las empresas pueden implementar la herramienta como parte de los flujos de trabajo internos de cumplimiento normativo y gestión de riesgos, mientras que los desarrolladores independientes pueden utilizarla para auditar ellos mismos las habilidades antes de publicarlas.

La empresa ha afirmado que las futuras actualizaciones permitirán a los usuarios habituales escanear las habilidades ellos mismos antes de la instalación. El escáner ya se ha implementado en entornos seleccionados de infraestructura de agentes de IA Web3. Certik también está ampliando las integraciones con plataformas adicionales, entre ellas Finchip.ai.

«La confianza es el requisito previo para que cualquier economía de habilidades funcione a gran escala», afirmó Gary Yang, inversor de incubación en Finchip.ai. «El trabajo de CertiK en la verificación de la seguridad de las habilidades es exactamente lo que necesita este ecosistema. Es lo que hace que merezca la pena desarrollar la misión de Finchip de propiedad y distribución de habilidades programables».

El lanzamiento se produce tras la expansión de Certik hacia la infraestructura de seguridad centrada en la IA. A principios de este año, la empresa presentó su iniciativa AI Auditor para abordar los riesgos relacionados con los sistemas autónomos y los entornos de ejecución impulsados por la IA. «Las aplicaciones de IA avanzan hacia una ejecución cada vez más autónoma, lo que crea una nueva categoría de retos en materia de seguridad y confianza», afirmó Gu. «Creemos que la infraestructura de seguridad para la era de la IA debe funcionar de forma proactiva, no reactiva».