Informe de Certik: Los agentes de IA deben operar bajo supervisión humana

Un nuevo informe de Certik sugiere considerar a los agentes de inteligencia artificial como miembros de la fuerza laboral: han evolucionado de advertencias pasivas a acciones autónomas. Estos sistemas realizan razonamientos de múltiples pasos, integran API externas y toman acciones correctivas en vivo con mínima intervención humana. Según el informe, las organizaciones deben gestionar la IA agente como un participante autónomo de la fuerza laboral: asignar roles explícitos, poderes limitados y una estricta responsabilidad del supervisor humano. Dado que los gerentes mantienen el 100% de la responsabilidad legal y operativa, los agentes deben operar dentro de poderes limitados, con protocolos de escalamiento y supervisión asignada. Este cambio es necesario en el contexto de ataques a velocidad de máquina, escasez de personal en ciberseguridad y multas por lavado de dinero que superaron los $900 millones solo en la primera mitad de 2025.

Natalie Newson, investigadora senior de blockchain en Certik, no está de acuerdo en que los defensores siempre estén a la zaga. Reconoce que la IA fortalece a los atacantes, pero destaca la ventaja de los defensores: la ventaja de jugar en casa. «Vemos el código antes del lanzamiento, sabemos cómo se comporta normalmente el protocolo y podemos lanzar la misma búsqueda de exploits de IA contra nuestros propios sistemas primero. En Web3, todo lo que hace un atacante está en un registro público, por lo que su reconocimiento, financiación y transacciones de prueba dejan un rastro que las máquinas leen perfectamente», dijo Newson. Advierte que la defensa periódica no resistirá un ataque continuo: la seguridad debe ser dinámica.

Los atacantes se benefician de la falta de fricción regulatoria, pero, según Newson, la velocidad no garantiza el éxito: «Un atacante puede moverse a velocidad de máquina, pero aún necesita pasar por la cadena para obtener el pago, y es ahí donde se encuentran la monitorización y los interruptores automáticos». La monitorización de transacciones pendientes en tiempo real permite a los sistemas automáticos detectar exploits y suspender contratos instantáneamente. Combinado con auditorías y verificación formal, esto cambia la economía de las amenazas, obligando a los atacantes a superar a las máquinas en lugar de a los humanos. El informe también insta a una clara separación entre la ejecución del agente y la supervisión humana y a hacer de la auditoría de los registros internos de razonamiento de IA una disciplina obligatoria.