El CEO de Microsoft pide un freno de emergencia para los modelos avanzados de IA: lo que deben aprender los equipos de seguridad cripto

Según diversos informes, Satya Nadella, CEO de Microsoft, ha instado a las empresas a tratar los modelos de IA potentes como posibles amenazas internas, y no simplemente como herramientas inocuas de productividad. Su mensaje central es sencillo, pero importante: las organizaciones deben asumir que los modelos avanzados pueden verse comprometidos, limitar sus permisos desde el primer momento y mantener un “freno de emergencia” bajo control humano que permita pausar o apagar agentes de IA autónomos mientras están en funcionamiento.

Para la industria cripto, esta advertencia no es algo abstracto. A medida que los agentes de IA empiezan a interactuar con wallets, contratos inteligentes, sistemas de trading, operaciones de DAO, flujos de atención al cliente, herramientas de cumplimiento normativo y analítica on-chain, la pregunta ya no es si la IA puede mejorar las operaciones blockchain. La verdadera pregunta es cuánta autoridad se debe delegar en la IA antes de que el riesgo se vuelva inaceptable.

En una industria donde una sola filtración de una clave privada, una firma maliciosa o una interacción defectuosa con un contrato inteligente puede provocar pérdidas irreversibles, la propuesta de Nadella merece una atención especial.

Por qué los “interruptores de apagado” de IA son aún más importantes en cripto

Los fallos del software tradicional a menudo pueden revertirse, corregirse con parches o compensarse mediante procesos internos. En cripto, la situación es distinta. Las transacciones on-chain suelen ser definitivas. Una vez que los fondos se mueven a una dirección controlada por un atacante, la recuperación es incierta y, en muchos casos, imposible sin la cooperación de exchanges, bridges, firmas de análisis o autoridades.

Esto hace que los agentes de IA autónomos sean especialmente delicados en entornos Web3. Un modelo de IA con permiso para firmar transacciones, reequilibrar activos de tesorería, desplegar contratos inteligentes, interactuar con protocolos DeFi o gestionar credenciales operativas podría convertirse en un objetivo de alto valor.

Un agente de IA comprometido puede no parecer un hacker convencional. Podría actuar a través de APIs normales, flujos de trabajo aprobados o prompts aparentemente legítimos. Por eso, la mentalidad de “asumir que ya ha habido una brecha” es cada vez más relevante. Marcos de seguridad como el Marco de Gestión de Riesgos de IA del NIST hacen hincapié en la gobernanza, el mapeo, la medición y la gestión del riesgo durante todo el ciclo de vida de la IA. Para los equipos cripto, esos principios deben extenderse al acceso a wallets, la aprobación de transacciones y la ejecución de contratos inteligentes.

La nueva superficie de ataque: agentes de IA con permisos on-chain

En 2025, los agentes de IA son cada vez más capaces y están más integrados en los flujos financieros. En cripto, pueden utilizarse para:

• Monitorizar riesgos en contratos inteligentes y alertar a los equipos sobre actividad anómala
• Ejecutar estrategias de trading en exchanges descentralizados
• Gestionar resúmenes de propuestas de DAO y recomendaciones de gobernanza
• Automatizar informes de tesorería y procesos contables
• Ayudar a los usuarios a interpretar transacciones de wallet antes de firmarlas
• Detectar dominios de phishing, contratos maliciosos y aprobaciones de tokens sospechosas

Estos casos de uso aportan valor. Pero también crean una nueva categoría de riesgo: sistemas de IA capaces de influir en acciones con consecuencias financieras reales o incluso iniciarlas.

La inyección de prompts, el envenenamiento de datos, el abuso de herramientas, la manipulación de modelos y los plugins comprometidos ya no son preocupaciones teóricas. El Top 10 de OWASP para aplicaciones basadas en grandes modelos de lenguaje destaca riesgos como la inyección de prompts, el manejo inseguro de salidas, la agencia excesiva y la divulgación de información sensible. Cada uno de estos riesgos se vuelve más peligroso cuando está conectado a infraestructura cripto.

Por ejemplo, un agente de IA que resume una propuesta de DAO podría ser manipulado mediante contenido malicioso incrustado en documentos externos. Una IA de atención al cliente podría ser engañada para revelar detalles operativos. Un bot de trading podría reaccionar a señales de mercado envenenadas. Un modelo asistente de wallet podría clasificar erróneamente una aprobación maliciosa como segura.

Cuanta más autonomía tenga un sistema de IA, más importante será definir con claridad lo que no puede hacer.

“No depender de un solo modelo” también aplica a las decisiones blockchain

La recomendación atribuida a Nadella de no depender de un único modelo para decisiones críticas es especialmente relevante para la seguridad cripto. En los sistemas blockchain, las decisiones críticas pueden incluir:

• Si una transacción debe firmarse
• Si una interacción con un contrato inteligente es segura
• Si una votación de DAO contiene riesgos de gobernanza ocultos
• Si una dirección está vinculada a actividad sospechosa
• Si una transacción automática de tesorería debe ejecutarse

Ningún modelo individual debería tratarse como una autoridad incuestionable para tomar este tipo de decisiones. Una arquitectura más segura utiliza varias capas de validación.

Por ejemplo, antes de que un agente de IA recomiende firmar una transacción, el sistema podría comparar su conclusión con una decodificación determinista de la transacción, bases de datos de direcciones conocidas, simulaciones de contratos inteligentes, motores de puntuación de riesgo y revisión humana para transferencias de alto valor. Si las señales entran en conflicto, la acción por defecto debería ser detenerse, no continuar.

Esto es especialmente importante porque los modelos de IA pueden sonar seguros incluso cuando se equivocan. En cripto, la confianza no es un control de seguridad.

Los registros inmutables encajan de forma natural con la seguridad Web3

Otra recomendación clave es conservar registros resistentes a manipulaciones sobre el comportamiento de los agentes de IA. Esto encaja estrechamente con los principios de blockchain.

Los equipos cripto deberían mantener registros detallados que muestren:

• A qué datos accedió un agente de IA
• Qué herramientas o APIs utilizó
• Qué prompts o instrucciones influyeron en la acción
• Qué transacción recomendó o inició
• Quién aprobó la ejecución final
• Si se ignoró alguna advertencia de riesgo

No todos los registros deben estar on-chain. Los datos operativos sensibles no deberían exponerse públicamente. Pero los compromisos criptográficos, las pistas de auditoría basadas en hashes y el sellado temporal seguro pueden ayudar a demostrar que los registros no fueron alterados después de un incidente.

Este enfoque puede ser útil para exchanges, custodios, equipos DeFi, tesorerías de DAO y operadores de blockchain empresariales. Cuando algo sale mal, los equipos necesitan algo más que una explicación vaga. Necesitan una línea de tiempo fiable que muestre cómo se tomó una decisión.

Las auditorías independientes deben ampliarse de los contratos inteligentes a los flujos de IA

Las auditorías de contratos inteligentes ya son una práctica estándar para los proyectos Web3 serios, pero la IA introduce una capa adicional que también debe revisarse. Si un agente de IA puede influir en la gobernanza, el movimiento de activos, el cumplimiento normativo o las advertencias de riesgo dirigidas a usuarios, entonces el propio flujo de trabajo de IA pasa a formar parte del perímetro de seguridad.

Una revisión independiente debería examinar:

• Permisos del modelo y límites de acceso
• Diseño de prompts e instrucciones del sistema
• Fuentes de datos utilizadas por el modelo
• Permisos para invocar herramientas
• Modos de fallo y procedimientos de respaldo
• Requisitos de aprobación humana
• Planes de respuesta a incidentes
• Sistemas de registro y monitorización

Esto no sustituye a las auditorías de contratos inteligentes. Es una ampliación del modelo de seguridad. En una pila cripto asistida por IA, tanto el código como los flujos de toma de decisiones deben someterse a escrutinio.

La comunidad de ciberseguridad en general también ha subrayado la importancia de los principios de seguridad desde el diseño. La guía de la iniciativa Secure by Design de CISA resulta especialmente relevante para los equipos que construyen sistemas en los que la configuración por defecto, el control de acceso y la resiliencia operativa importan desde el primer día.

La divulgación de incidentes puede fortalecer todo el ecosistema cripto

Nadella también pidió a las empresas que divulguen fallos importantes o vulnerabilidades de seguridad, incluidas las causas y los detalles que puedan ayudar a otros a defenderse. El sector cripto ya ha aprendido esta lección tras años de hackeos a exchanges, exploits en bridges, fallos de oráculos y campañas de phishing.

Cuando los equipos comparten informes post mortem de forma responsable, todo el ecosistema se beneficia. Los desarrolladores corrigen vulnerabilidades similares. Los proveedores de wallets mejoran sus advertencias. Los investigadores de seguridad afinan sus métodos de detección. Los usuarios aprenden qué deben evitar.

En la era de la IA, la divulgación de incidentes debería incluir nuevas categorías de información:

• ¿Fue manipulado el agente de IA mediante inyección de prompts?
• ¿Dependía de datos externos no confiables?
• ¿Los permisos eran demasiado amplios?
• ¿El sistema carecía de aprobación humana para acciones de alto riesgo?
• ¿Los registros eran lo suficientemente completos como para reconstruir el evento?
• ¿Podría el mismo ataque afectar a otras aplicaciones cripto?

Este tipo de transparencia puede ayudar a evitar que los mismos fallos se repitan en DeFi, wallets, proveedores de infraestructura y plataformas de trading.

Controles prácticos para equipos cripto que utilizan agentes de IA

Las empresas cripto que adopten IA deberían considerar un modelo de defensa por capas. Los siguientes controles pueden reducir el riesgo de fallos provocados por IA:

1. Limitar la autoridad sobre transacciones

Los agentes de IA no deberían tener poder de firma sin restricciones. Las transacciones de alto valor, los despliegues de contratos, los movimientos de tesorería y las acciones de gobernanza deberían requerir aprobación humana y autenticación sólida.

2. Usar permisos basados en políticas

Definir qué puede y qué no puede hacer la IA. Por ejemplo, un agente puede estar autorizado a preparar una transacción, pero no a transmitirla; o a analizar un contrato, pero no a aprobar una autorización de tokens.

3. Incorporar un mecanismo de parada de emergencia

Los equipos deberían poder pausar inmediatamente los flujos de IA si detectan comportamientos anómalos. Esto incluye revocar claves API, congelar pipelines de automatización, deshabilitar el acceso a herramientas y detener acciones programadas.

4. Separar la recomendación de la ejecución

Un sistema de IA puede ayudar con el análisis, pero la ejecución debería quedar en manos de infraestructura de transacciones segura con verificación independiente.

5. Mantener pistas de auditoría resistentes a manipulaciones

Los registros deben ser completos, contar con marcas de tiempo y estar protegidos contra modificaciones no autorizadas. En sistemas sensibles, las comprobaciones de integridad criptográfica pueden ayudar a preservar evidencias.

6. Exigir revisión humana para acciones irreversibles

Cualquier acción que pueda mover activos de forma permanente, cambiar la propiedad de un contrato, actualizar la lógica de un protocolo o modificar controles de tesorería debería incluir aprobación humana.

7. Probar el sistema frente a prompts adversarios

Los equipos de seguridad deberían evaluar si el modelo puede ser manipulado mediante textos maliciosos, documentos, sitios web, propuestas de gobernanza o entradas de usuarios.

Qué significa esto para los usuarios individuales de cripto

Las herramientas de IA pueden ayudar a los usuarios a entender transacciones complejas, detectar sitios web sospechosos y resumir información de mercado. Pero los usuarios no deberían confiar ciegamente en consejos generados por IA al firmar transacciones con su wallet.

Antes de aprobar cualquier transacción, los usuarios deberían seguir verificando:

• La dirección de destino
• El activo y la cantidad
• Los permisos de aprobación de tokens
• La identidad del contrato inteligente
• La red y la configuración de gas
• Si la acción coincide con su intención real

La IA puede mejorar la experiencia de usuario, pero la seguridad de las claves privadas sigue siendo la base. Si un asistente de IA ofrece una orientación incorrecta, la firma final sigue siendo lo que realmente importa.

Aquí es donde las hardware wallets continúan desempeñando un papel importante. Una hardware wallet ayuda a mantener las claves privadas aisladas de dispositivos conectados a internet, reduciendo la exposición a malware, sesiones de navegador comprometidas y automatización insegura. OneKey, por ejemplo, está diseñada en torno a la autocustodia, la verificación de transacciones y el almacenamiento seguro de claves privadas, lo que la convierte en una protección práctica para usuarios que navegan por entornos cripto cada vez más asistidos por IA.

La visión general: la autonomía de la IA necesita barreras nativas de cripto

El mensaje del “freno de emergencia” de Nadella refleja un cambio más amplio en la tecnología: los sistemas avanzados de IA ya no son simples interfaces de chat pasivas. Se están convirtiendo en agentes capaces de planificar, llamar herramientas, acceder a datos y actuar en distintos sistemas digitales.

Para blockchain y las criptomonedas, este cambio crea tanto oportunidades como riesgos. La IA puede hacer que Web3 sea más segura al mejorar la monitorización, la detección de fraude, la revisión de código y la educación de los usuarios. Pero si se concede demasiada autoridad a los agentes de IA sin los controles adecuados, también pueden convertirse en un nuevo vector de ataque capaz de provocar pérdidas de activos.

El camino correcto no consiste en rechazar la IA. Consiste en diseñar sistemas de IA con límites estrictos, verificaciones independientes, auditabilidad y capacidades de apagado rápido.

En cripto, la suposición más segura es clara: cualquier sistema que pueda influir en el movimiento de activos debe tratarse como parte de la pila de seguridad. Y cualquier agente de IA con poder operativo debería contar con un freno de emergencia visible, probado y controlado por humanos.