ByteDance Seed crea una unidad independiente de seguridad de IA: Yan Lin reportará a Wu Yonghui, con el foco puesto en el exceso de autonomía de los agentes

La decisión atribuida a ByteDance Seed de crear un departamento independiente de Model-Alignment & Preparedness va mucho más allá de un simple ajuste interno de gobernanza de IA. Para la industria cripto, pone sobre la mesa una pregunta que en 2025 se está volviendo cada vez más urgente: ¿qué ocurre cuando los agentes de IA dejan de limitarse a responder preguntas y empiezan también a invocar herramientas, ejecutar flujos de trabajo e interactuar potencialmente con activos on-chain?

Según informes recientes del sector, la nueva unidad de Seed estará dirigida por Yan Lin, hasta ahora responsable del trabajo de alineación del gran modelo Doubao, y reportará directamente al director de Seed, Wu Yonghui. Se espera que miembros del antiguo equipo de Responsible AI y parte del equipo de Chat se integren en la nueva estructura. Su mandato incluiría especificaciones de modelos, evaluaciones de seguridad, entrenamiento de alineación, mecanismos de protección, monitoreo de riesgos y colaboración con instituciones de investigación externas y evaluadores independientes.

El mensaje de fondo es claro: a medida que los modelos de IA adquieren mayores capacidades de razonamiento y uso de herramientas, la seguridad ya no puede limitarse a impedir respuestas inapropiadas de un chatbot. El problema más difícil es garantizar que los agentes autónomos no excedan la autorización concedida por el usuario.

Por qué la seguridad de los agentes de IA importa a los usuarios cripto

La industria blockchain es uno de los primeros entornos en los que un software autónomo puede realizar acciones irreversibles. En una aplicación web tradicional, una operación errónea quizá pueda revertirse con ayuda del servicio de atención al cliente. En blockchain, una transacción confirmada suele ser definitiva.

Esto hace que la alineación de agentes de IA sea especialmente relevante para el mundo cripto. Un agente capaz de resumir datos de mercado presenta un riesgo relativamente bajo. En cambio, un agente que puede conectarse a una wallet, preparar una transacción, aprobar permisos sobre tokens, mover activos entre cadenas, reclamar recompensas o interactuar con un protocolo DeFi opera en un entorno de riesgo mucho más elevado.

Por eso es tan importante distinguir entre “seguridad del chat” y “seguridad del agente”. En cripto, el peligro no es solo que un modelo dé una mala respuesta. El verdadero riesgo es que el modelo ejecute una acción que el usuario no pretendía realizar.

Algunos ejemplos:

• Firmar una transacción con permisos más amplios de los solicitados
• Aprobar allowances ilimitados de tokens para un contrato malicioso
• Interactuar con un sitio de phishing que imita una dApp legítima
• Mover fondos entre cadenas sin un consentimiento claro del usuario
• Ejecutar una estrategia basada en datos manipulados o en prompt injection
• Invocar herramientas externas que expongan información privada o detalles del portafolio

El auge de los agentes de IA en trading, gestión de portafolios, análisis de contratos inteligentes y operaciones on-chain implica que la industria necesita un modelo de seguridad más sólido que confiar en que “el asistente parecía útil”.

De la alineación del modelo a la alineación de la transacción

La alineación de IA suele referirse a lograr que el comportamiento del modelo sea coherente con la intención humana, las reglas de seguridad y las restricciones de políticas. En cripto, esta idea debe ampliarse hacia lo que podría llamarse alineación de transacciones: la acción on-chain propuesta por la IA debe coincidir con la autorización explícita del usuario.

Esto exige algo más que una confirmación en lenguaje natural. Un usuario puede decir: “Ayúdame a hacer staking de este activo”, pero la transacción puede incluir múltiples pasos ocultos, aprobaciones de tokens, llamadas a contratos u operaciones cross-chain. Si un agente de IA prepara la acción, los usuarios siguen necesitando una forma fiable de verificar qué están firmando realmente.

Aquí es donde las hardware wallets siguen siendo fundamentales. Un dispositivo seguro de firma puede separar las sugerencias generadas por IA de la ejecución aprobada por el usuario. OneKey, por ejemplo, está diseñado en torno a la autocustodia y la confirmación de transacciones, ayudando a los usuarios a mantener sus claves privadas offline mientras revisan las solicitudes de firma antes de que los fondos se muevan. En un futuro dominado por agentes de IA, esa separación será aún más valiosa.

El principio es sencillo: la IA puede asistir, pero no debe convertirse en la autoridad final sobre las claves privadas.

El uso de herramientas es la nueva frontera de seguridad

Los sistemas modernos de IA dependen cada vez más de la invocación de herramientas. Pueden acceder a navegadores, API, bases de datos, entornos de ejecución de código, interfaces de trading o servicios relacionados con wallets. Esta arquitectura hace que la IA sea más útil, pero también abre nuevas superficies de ataque.

La comunidad de seguridad ya ha identificado riesgos como prompt injection, diseños inseguros de herramientas, filtraciones de datos y exceso de autonomía. El OWASP Top 10 for Large Language Model Applications ofrece un marco útil para comprender estas amenazas, incluida la forma en que instrucciones maliciosas pueden ocultarse en páginas web, documentos o fuentes externas de datos.

Para los usuarios cripto, la prompt injection puede convertirse en un riesgo financiero directo. Imaginemos un agente de IA que lee una página web con instrucciones ocultas para recomendar un contrato malicioso. O un agente que analiza la página de un token y es manipulado para generar una transacción que beneficia a un atacante.

La cuestión clave no es si el modelo es inteligente. La cuestión es si el modelo tiene permiso para actuar, a qué herramientas puede acceder y cómo se restringen sus acciones.

Por qué los equipos independientes de seguridad de IA se están volviendo estratégicos

El supuesto movimiento de Seed para separar seguridad y alineación en un departamento autónomo refleja una tendencia más amplia en la industria. La seguridad de la IA está dejando de ser una preocupación puramente investigadora para convertirse en un requisito operativo.

Para las empresas que desarrollan modelos de propósito general, el desafío ya no consiste solo en mejorar las puntuaciones en benchmarks. Deben demostrar que sistemas más capaces siguen siendo controlables en condiciones reales. Eso incluye evaluar capacidades peligrosas, monitorear usos indebidos y aplicar controles más estrictos antes del despliegue.

El NIST AI Risk Management Framework enfatiza la gobernanza, el mapeo, la medición y la gestión de los riesgos de IA. Estos conceptos son cada vez más relevantes para las aplicaciones blockchain, donde los sistemas de IA pueden interactuar con contratos inteligentes, infraestructura de mercado y activos digitales.

La evaluación externa también es importante. Cuando los proveedores de modelos evalúan sus propios sistemas, los incentivos internos pueden sesgar el proceso hacia la velocidad y el lanzamiento de productos. Las pruebas realizadas por terceros pueden establecer una base de seguridad más creíble, especialmente para sistemas que podrían integrarse en flujos financieros.

La referencia a CBRN apunta a una mentalidad de preparación más amplia

El supuesto foco en riesgos CBRN —ámbitos químico, biológico, radiológico y nuclear— puede parecer lejano al mundo cripto. Sin embargo, muestra que los principales laboratorios de IA están pensando en usos indebidos de alto impacto, no solo en moderación rutinaria de contenidos.

Para blockchain, una mentalidad de preparación equivalente debería aplicarse al abuso financiero y de infraestructura. Los agentes de IA pueden reducir la barrera técnica para los atacantes ayudándoles a redactar mensajes de phishing, analizar debilidades en contratos inteligentes, automatizar campañas fraudulentas o identificar comportamientos de usuarios explotables.

Esto no significa que haya que rechazar la IA. Significa que los sistemas de IA utilizados en cripto deben diseñarse con límites estrictos:

• Sin exposición de claves privadas
• Sin firma automática
• Sin ejecución oculta de transacciones
• Sin approvals ilimitados de tokens por defecto
• Sin confianza ciega en datos de terceros
• Sin acceso no gestionado a API de wallets
• Registros claros de las decisiones del agente y de las herramientas invocadas

A medida que los modelos de IA se vuelven más potentes, la seguridad debe hacerse más explícita, no más implícita.

2025: los agentes de IA se encuentran con la abstracción de cuentas, DeFi y la automatización on-chain

El momento de esta discusión es relevante. En 2025, los usuarios cripto están prestando más atención a la abstracción de cuentas, las transacciones basadas en intenciones, los agentes de trading automatizado y las interfaces DeFi asistidas por IA.

La abstracción de cuentas puede hacer que las wallets sean más programables y fáciles de usar. La hoja de ruta de abstracción de cuentas de Ethereum explica cómo las cuentas basadas en contratos inteligentes pueden habilitar nuevos modelos de transacción, incluidos diseños más flexibles de autorización y recuperación. Estas mejoras pueden beneficiar a los usuarios, pero también vuelven más complejo el diseño de permisos.

Los sistemas basados en intenciones añaden otra capa de abstracción. En lugar de especificar manualmente cada paso de una transacción, los usuarios pueden expresar un resultado: “intercambia este activo al mejor precio”, “reequilibra mi portafolio” o “mueve fondos a una red con comisiones más bajas”. Los agentes de IA encajan de forma natural en este modelo porque pueden interpretar objetivos y coordinar acciones.

Pero la abstracción también puede ocultar riesgos. Si los usuarios no entienden lo que ocurre bajo el capó, agentes maliciosos o mal alineados pueden aprovechar esa brecha. Por eso, la industria debe combinar una mejor experiencia de usuario con una verificación más sólida.

El futuro no debería ser “la IA lo hace todo y el usuario espera que sea seguro”. Debería ser: “la IA propone, los sistemas de seguridad limitan y el usuario autoriza”.

Lecciones prácticas para los equipos cripto

Para los equipos que construyen productos cripto con IA, la supuesta reestructuración de Seed ofrece varias lecciones útiles.

1. Separar el crecimiento del producto de la gobernanza de seguridad

La seguridad de IA no debe tratarse como una lista de verificación de última hora. Si un equipo de producto es recompensado únicamente por la adopción, puede subestimar riesgos poco frecuentes pero de alto impacto. Una función de seguridad dedicada puede cuestionar supuestos antes de que los usuarios queden expuestos.

2. Definir qué no puede hacer el agente

Las especificaciones claras del modelo importan. Un agente de IA debe tener límites explícitos: qué herramientas puede invocar, con qué contratos puede interactuar, qué tamaños de transacción requieren confirmación adicional y qué acciones están prohibidas.

3. Hacer que la autorización sea legible por máquinas

El consentimiento en lenguaje natural no basta. Las aplicaciones cripto deberían traducir los permisos del usuario en reglas estructuradas que puedan aplicarse programáticamente. Por ejemplo, se puede permitir que un agente simule transacciones pero no las envíe, o que prepare swaps por debajo de cierto valor pero no apruebe allowances de tokens.

4. Usar simulación antes de firmar

La simulación de transacciones ayuda a los usuarios a entender los posibles resultados antes de ejecutar una acción. Esto es especialmente importante cuando los agentes de IA generan operaciones de varios pasos o interactúan con contratos inteligentes desconocidos.

5. Mantener la firma aislada

Los sistemas de IA no deben controlar claves privadas. Mantener la firma separada de la toma de decisiones de la IA reduce el radio de impacto si el modelo es manipulado, comprometido o simplemente se equivoca.

En qué deben fijarse los usuarios

Los usuarios cripto que evalúan herramientas impulsadas por IA deberían hacerse preguntas directas:

• ¿La IA puede iniciar transacciones o solo explicarlas?
• ¿La herramienta solicita conexión con la wallet antes de que sea necesario?
• ¿Las aprobaciones de tokens son limitadas o ilimitadas?
• ¿Existe simulación de transacciones?
• ¿La IA puede acceder a datos del portafolio, historial de navegación o archivos personales?
• ¿Las llamadas a herramientas son visibles para el usuario?
• ¿La firma se realiza en un dispositivo seguro separado?

Si las respuestas no están claras, conviene actuar con cautela. La comodidad no debería exigir entregar el control sobre los activos.

Un camino más seguro para la IA y las criptomonedas

La supuesta creación por parte de ByteDance Seed de una unidad dedicada a seguridad y alineación de IA refleja un cambio más amplio en la industria tecnológica: los modelos potentes necesitan gobernanza específica, evaluación continua y salvaguardas más sólidas alrededor del uso de herramientas.

Para cripto, lo que está en juego es especialmente alto, porque los agentes de IA podrían operar pronto cerca de wallets, contratos inteligentes, exchanges, bridges y protocolos DeFi. La industria debería dar la bienvenida a la asistencia de IA, pero solo con límites claros de autorización y buenas prácticas de firma segura.

El papel de OneKey en este entorno es directo: mantener las claves privadas bajo control del usuario y separar la custodia de activos de la toma de decisiones impulsada por IA. A medida que los agentes de IA ganen capacidades, esa separación puede convertirse en uno de los principios de seguridad más importantes para los usuarios cripto de a pie.