China avanza hacia una legislación sobre todo el ciclo de vida de la IA, con la vista puesta en la notificación de riesgos y los entornos regulatorios de pruebas
China avanza hacia una legislación sobre todo el ciclo de vida de la IA, con la vista puesta en la notificación de riesgos y los entornos regulatorios de pruebas
China avanza hacia un marco más amplio de gobernanza de la inteligencia artificial, con posibles implicaciones para las empresas que combinan la IA con la tecnología blockchain. La orientación presentada el 3 de noviembre por la Comisión Nacional de Desarrollo y Reforma ampliaría la supervisión a todo el ciclo de vida de la IA: desde los datos y los recursos informáticos hasta los algoritmos y sus aplicaciones en el mundo real.
Se alentaría a desarrolladores y operadores a informar con rapidez sobre los riesgos de seguridad y a notificar de forma proactiva los incidentes y las vulnerabilidades. Al mismo tiempo, los responsables políticos contemplan períodos de transición y entornos regulatorios de pruebas en los que las empresas puedan experimentar con nuevas tecnologías bajo condiciones controladas.
Para las empresas del sector cripto, esta distinción es importante: las medidas anunciadas marcan una orientación política, pero aún no constituyen un conjunto definitivo de obligaciones. Las compañías deberán seguir de cerca el alcance final de la legislación, su calendario de aplicación y su interacción con las restricciones ya vigentes sobre las actividades relacionadas con las criptomonedas.
Qué podría implicar la supervisión de la IA durante todo su ciclo de vida
En lugar de centrarse únicamente en los resultados generados por un modelo, el enfoque propuesto tendría en cuenta los riesgos presentes en todas las etapas de desarrollo e implementación. Esto podría abarcar la forma en que se obtienen los datos de entrenamiento, cómo se prueban los sistemas, qué sucede cuando un producto sale al mercado y cómo responden los operadores cuando algo falla.
China ya regula determinados servicios de IA. Sus medidas provisionales para los servicios de IA generativa, vigentes desde 2023, se aplican a los servicios que cumplen ciertos requisitos y generan contenidos para el público en China. Una ley de mayor alcance podría complementar este marco, aunque todavía queda por aclarar la relación exacta entre las medidas actuales y la futura legislación.
En los proyectos blockchain, la IA puede integrarse en muchos componentes de un producto: un asistente de soporte, una herramienta de supervisión de transacciones, un servicio de análisis de contratos inteligentes o una interfaz de negociación automatizada. Cada uno plantea riesgos diferentes. Por ejemplo, un chatbot que explica una transacción podría exponer datos confidenciales del usuario, mientras que un agente de IA capaz de iniciar transacciones podría cometer errores difíciles de revertir.
La orientación política también va más allá de la seguridad técnica. Entre los asuntos que requieren atención se encuentran el impacto sobre el empleo, la dependencia de los usuarios respecto de la IA, los contenidos ultrafalsos o deepfakes, la discriminación algorítmica y la filtración de datos personales. Estas cuestiones podrían afectar a las plataformas cripto que utilizan IA para decidir sobre el acceso a cuentas, generar contenidos financieros o mantener conversaciones con los usuarios.
Por qué la notificación de riesgos es importante para los productos cripto
El énfasis en informar sobre incidentes y vulnerabilidades resulta especialmente relevante para los productos que gestionan activos digitales. Un fallo puede ir mucho más allá de una respuesta incorrecta: un sistema de IA podría interpretar erróneamente un contrato, recomendar una dirección maliciosa o convencer a un usuario para que apruebe una transacción insegura.
Los equipos que deseen evaluar su exposición podrían comenzar por documentar los siguientes aspectos:
- Límites del sistema: ¿Qué decisiones toma la IA y cuáles requieren aprobación humana?
- Flujos de datos: ¿Qué información del usuario, direcciones de billeteras o datos de transacciones se envían a un modelo o proveedor externo?
- Respuesta ante incidentes: ¿Cómo identificará, contendrá y comunicará el equipo un resultado perjudicial o una brecha de seguridad?
- Impacto sobre los usuarios: ¿Podría un error provocar la pérdida de activos, la exclusión de un servicio o la divulgación de información confidencial?
Se trata de cuestiones prácticas de gobernanza, no de una declaración de requisitos legales chinos ya definitivos. Como referencia más amplia para identificar y gestionar los riesgos de la IA, puede consultarse el Marco de Gestión de Riesgos de la IA del NIST.
Los entornos regulatorios de pruebas podrían ofrecer margen para experimentar
Por lo general, un entorno regulatorio de pruebas permite que una empresa pruebe un producto dentro de unos límites definidos, mientras las autoridades observan los resultados. Según el enfoque presentado el 3 de noviembre, podrían establecerse entornos de este tipo en distintos sectores, con mecanismos para la solicitud, las pruebas, el uso y la salida del programa. Las normas también podrían revisarse y adaptarse con el paso del tiempo.
Para los desarrolladores de blockchain, una prueba controlada podría servir para evaluar una herramienta de seguridad asistida por IA antes de implementarla a mayor escala. Limitar el número de participantes, el valor de las transacciones o los permisos del sistema podría facilitar la detección de fallos sin exponer a una gran cantidad de usuarios.
Sin embargo, participar en un entorno regulatorio de pruebas no equivale a obtener una autorización general para ofrecer servicios de criptomonedas. La posibilidad de que un proyecto participe dependerá del programa aplicable, sus normas y la actividad que se pretenda probar. Las empresas deberán evaluar por separado los requisitos relativos a la IA y las normas que regulan los activos digitales y los servicios financieros en su jurisdicción.
Unos períodos de transición razonables también podrían dar tiempo a las organizaciones afectadas para adaptarse. Su duración y sus efectos prácticos dependerán de las normas definitivas.
Los agentes de IA hacen aún más importante revisar las transacciones
Una de las cuestiones más relevantes para los usuarios de criptomonedas es cuánta autoridad deben conceder a un sistema de IA. Un asistente puede resultar útil para resumir un contrato o explicar una transacción, pero esa explicación no demuestra que la operación sea segura.
Antes de aprobar una transacción sugerida por una IA, los usuarios deberían verificar de forma independiente:
- La dirección de destino y la red. Una explicación convincente no impide que los fondos se envíen al lugar equivocado.
- El activo y el importe. Confirme qué activos saldrán de la billetera y si las comisiones son razonables.
- Los permisos del contrato. Revise con atención las autorizaciones de tokens, especialmente aquellas que permiten que un contrato gaste activos más adelante.
- El origen de la solicitud. Los vídeos ultrafalsos, las voces clonadas y los mensajes de chat persuasivos pueden dificultar la detección de una suplantación de identidad.
- La información confidencial. Nunca facilite una frase de recuperación ni una clave privada a un asistente de IA, un chat de soporte o un sitio web.
Una billetera de hardware como OneKey puede ayudar a mantener las claves privadas separadas de los dispositivos conectados a internet, al tiempo que permite a los usuarios revisar y autorizar transacciones. No obstante, no puede determinar si todas las transacciones son legítimas ni evitar que un usuario apruebe una solicitud maliciosa, por lo que sigue siendo esencial verificar cada operación cuidadosamente.
Qué habrá que observar a continuación
El impulso de China hacia una legislación que abarque todo el ciclo de vida de la IA apunta a un modelo de gobernanza que tiene en cuenta tanto la innovación como los daños que estos sistemas pueden causar después de su implementación. Para las empresas de blockchain, la tarea inmediata consiste en identificar dónde se utiliza la IA, a qué recursos puede acceder y cómo se gestionarían los incidentes.
Los próximos detalles importantes serán el alcance del proyecto de ley, los posibles requisitos de notificación, la duración de los períodos de transición y el diseño de cada entorno regulatorio de pruebas. Hasta que esa información se publique, las empresas deberán interpretar la orientación anunciada como una señal para empezar a prepararse, no como un sustituto de las normas definitivas.
