Medidas contra la destilación de OpenAI y Anthropic: qué podría implicar el razonamiento bloqueado para los agentes de IA en el sector cripto
Medidas contra la destilación de OpenAI y Anthropic: qué podría implicar el razonamiento bloqueado para los agentes de IA en el sector cripto
Los agentes de IA se están convirtiendo en una interfaz útil para desenvolverse en el ecosistema cripto: pueden resumir propuestas de gobernanza, analizar contratos inteligentes y preparar los datos de una transacción. Sin embargo, a medida que asumen tareas más complejas, los desarrolladores se enfrentan a una dependencia fácil de pasar por alto: es posible que el razonamiento interno del modelo no esté disponible ni pueda transferirse o reutilizarse como esperan quienes crean aplicaciones.
Según afirmaciones recientes, OpenAI estaría adoptando protecciones similares a las medidas de Anthropic para impedir la extracción del razonamiento oculto. El mecanismo descrito vincularía el razonamiento generado durante una conversación con el contexto que lo originó, lo que dificultaría su reutilización o exposición si se modifican mensajes anteriores.
Las afirmaciones concretas sobre GPT-6.2 Astra y Sol, las tasas de éxito de los ataques mencionadas y el supuesto calendario de adopción no pudieron verificarse de forma independiente con la información disponible para este artículo. Por tanto, no deben interpretarse como anuncios de producto confirmados ni como garantías de seguridad. No obstante, el problema de fondo ya resulta relevante para cualquiera que desarrolle aplicaciones cripto basadas en IA.
Por qué las empresas de IA quieren proteger el razonamiento
La destilación de modelos suele consistir en utilizar los resultados de un modelo más avanzado para ayudar a entrenar otro. Esta técnica puede reducir los costes de desarrollo, aunque su eficacia depende de los datos, del método de entrenamiento y de las capacidades que se quieran reproducir.
Una respuesta por sí sola proporciona un tipo de señal de entrenamiento. La explicación de cómo llegó el modelo a esa respuesta puede aportar otro: podría revelar pasos intermedios, métodos para descomponer problemas y patrones de comprobación de errores. Por ese motivo, los datos relacionados con el razonamiento pueden ser valiosos tanto para investigadores legítimos como para quienes intentan replicar sin autorización las capacidades de un modelo.
Para los proveedores de IA, el reto consiste en proteger resultados internos sensibles sin impedir que los desarrolladores creen aplicaciones útiles. Para estos últimos, el desafío es comprender que el razonamiento oculto de un modelo no equivale a una memoria propiedad de la aplicación.
La documentación de OpenAI sobre modelos de razonamiento explica cómo funcionan estos modelos dentro de su API y cómo pueden los desarrolladores trabajar con sus resultados. Como ocurre con cualquier función de una plataforma, conviene consultar la documentación vigente correspondiente al modelo y a la API que se estén utilizando para confirmar los detalles de implementación.
Cómo podría afectar la vinculación al contexto a los agentes de IA
En una conversación de varios pasos, un agente de IA puede recibir la solicitud de un usuario, invocar una herramienta, examinar el resultado y seguir trabajando hasta obtener una respuesta. Algunos proveedores de modelos también utilizan elementos de razonamiento u otros estados internos para facilitar este proceso.
El supuesto sistema de bloqueo contextual asociaría cada elemento de razonamiento protegido con la conversación previa que lo generó. Si un desarrollador modificara una instrucción anterior, la configuración de una herramienta o un mensaje, el proveedor podría rechazar o descartar el razonamiento que dejara de coincidir con el contexto revisado.
Esta distinción es importante en los flujos de trabajo cripto. Pensemos en un agente que revisa una transacción DeFi:
- Lee la operación de intercambio de tokens que pretende realizar el usuario.
- Comprueba el tipo de cambio cotizado y la dirección del contrato.
- Prepara los datos de la transacción para su revisión.
- La aplicación modifica un mensaje anterior o sustituye parte del historial de la conversación.
Si el razonamiento protegido no pudiera reutilizarse después de esa modificación, el agente podría tener que repetir parte del trabajo. Según el proveedor y el diseño de la aplicación, esto podría aumentar la latencia, el consumo de tokens o el número de llamadas a herramientas. También podría volver menos predecible el comportamiento del agente si la aplicación da por sentado que el razonamiento anterior sigue estando disponible.
Se trata de una cuestión de diseño de aplicaciones, no de una prueba de que el razonamiento protegido se haya visto comprometido. El comportamiento exacto depende de la API y del modelo utilizados.
Por qué es importante para la seguridad cripto
Los agentes cripto operan en un entorno en el que una acción incorrecta puede tener consecuencias económicas inmediatas. Una dirección de token engañosa, un permiso excesivo o un parámetro inesperado en una transacción pueden resultar mucho más graves que una respuesta equivocada en un chat convencional.
Un mecanismo de razonamiento bloqueado podría ayudar al proveedor de un modelo a reducir los intentos de extraer información protegida. Sin embargo, no garantiza que la respuesta final del agente sea correcta, que una herramienta externa sea fiable ni que una transacción propuesta resulte segura.
Los desarrolladores deben considerar estos aspectos como problemas de seguridad independientes:
- Protección del estado del modelo: si el razonamiento interno puede extraerse o reutilizarse.
- Integridad de los datos: si los datos de mercado, los metadatos de los contratos y las respuestas de las herramientas son correctos.
- Seguridad de las transacciones: si la transacción se corresponde con la intención del usuario.
- Autorización: si el usuario ha aprobado explícitamente la acción.
Las recomendaciones de seguridad de Ethereum son un buen punto de partida para comprender riesgos como el phishing y las autorizaciones maliciosas. La IA puede ayudar en el proceso de revisión, pero no elimina la necesidad de comprobar las direcciones, los permisos y los detalles de cada transacción.
Cómo diseñar agentes cripto para un razonamiento opaco
Con independencia de que un proveedor utilice o no el bloqueo contextual, los desarrolladores deberían evitar depender del acceso al proceso de razonamiento privado de un modelo. Un diseño más sólido mantiene el estado importante de la aplicación de forma explícita y permite verificarlo por separado.
Conserva el estado de la conversación que requiera tu proveedor
Si una API exige que los mensajes anteriores o los elementos de razonamiento se devuelvan en un formato determinado, respeta ese contrato en lugar de reescribir el historial de manera improvisada. Consulta las directrices vigentes del proveedor antes de introducir mecanismos de edición o compresión de conversaciones.
Cuando exista una función oficial para gestionar el contexto, pruébala en flujos de trabajo prolongados en vez de asumir que una transcripción abreviada conservará todo el estado útil.
Guarda las decisiones por separado del razonamiento oculto
Un agente no necesita revelar su razonamiento privado para que una aplicación registre hechos que permitan actuar. Conviene almacenar información como:
- La acción solicitada por el usuario y las restricciones pertinentes.
- La red y las direcciones de contratos que se estén considerando.
- Los resultados de las herramientas, incluidas las marcas de tiempo y las fuentes.
- Los parámetros de la transacción presentados para su aprobación.
- La confirmación o el rechazo explícitos del usuario.
Estos registros pueden ayudar a la aplicación a reanudar el trabajo, facilitar auditorías y explicar qué información se presentó al usuario. Nunca deben incluir frases semilla ni claves privadas.
Vuelve a validar los datos antes de firmar
Las condiciones del mercado y el estado de la cadena pueden cambiar entre el análisis inicial del agente y la aprobación del usuario. Comprueba de nuevo los datos esenciales justo antes de firmar, en especial la red, el destinatario, el token, el importe, los permisos de gasto y los datos correspondientes de la transacción.
Para las interacciones con contratos inteligentes, los desarrolladores también pueden recurrir a recursos consolidados como el Estándar de Verificación de Seguridad de Contratos Inteligentes de OWASP para estructurar sus revisiones de seguridad. Los análisis generados por IA deben complementar, no sustituir, las pruebas y la revisión humana.
Considera el contenido externo como no fiable
Un agente puede encontrarse con instrucciones insertadas en sitios web, foros de gobernanza, metadatos de tokens o respuestas de herramientas. Esas instrucciones no deben prevalecer automáticamente sobre la solicitud del usuario ni sobre las normas de seguridad de la aplicación.
Las recomendaciones de OWASP sobre la inyección de instrucciones explican por qué el contenido recuperado por una aplicación de IA puede convertirse en una vía de ataque. En el caso de los agentes cripto, las consecuencias pueden incluir propuestas de transacciones engañosas o intentos de desviar fondos.
Qué deberían comprobar los usuarios de criptomonedas
Si utilizas un asistente de IA para investigar activos o preparar transacciones, céntrate en aquello que puedas verificar por tu cuenta:
- Comprueba la red y la dirección. Que dos activos compartan nombres o símbolos similares no demuestra que un token o contrato sea auténtico.
- Lee las solicitudes de autorización. Asegúrate de entender qué activo estás autorizando, quién recibe el permiso y cuánto puede gastar.
- Revisa la transacción antes de firmarla. No des por sentado que un resumen generado por IA incluye todos los detalles importantes.
- Mantén en privado la información de recuperación. Un asistente de IA no necesita tu frase semilla ni tu clave privada para explicar una transacción.
- Cuestiona las explicaciones expresadas con seguridad. Una respuesta convincente no demuestra que un contrato sea seguro ni que una operación sea adecuada.
Para quienes mantienen la autocustodia de sus activos, una cartera física como OneKey puede ayudar a conservar las claves privadas separadas de la aplicación de IA. Sin embargo, no permite determinar si una transacción es legítima: sigue siendo imprescindible revisar la solicitud de firma.
En resumen
Proteger el razonamiento oculto de un modelo y garantizar la seguridad de una transacción cripto son desafíos distintos. Si llega a implementarse, el razonamiento vinculado al contexto podría dificultar determinados intentos de extracción, pero también afectaría a la forma en que los desarrolladores gestionan los flujos de trabajo prolongados de sus agentes.
La prioridad práctica debe ser diseñar sistemas basados en datos verificables, un estado explícito de la aplicación y autorizaciones controladas por el usuario. En el entorno cripto, el agente más seguro no es simplemente el que ofrece una explicación convincente, sino aquel cuyas acciones pueden comprobarse antes de que se muevan los fondos.



