Altman vs. Amodei: en la era de la superinteligencia, ¿conservarán los seres humanos el control o serán tratados como mascotas?
Altman vs. Amodei: en la era de la superinteligencia, ¿conservarán los seres humanos el control o serán tratados como mascotas?
¿Qué ocurriría si la inteligencia artificial superara a las personas en casi todas las tareas con valor económico? La respuesta no depende únicamente de cuánta riqueza pueda generar la IA, sino también de quién controle el acceso a ella.
Sam Altman, CEO de OpenAI, ha defendido que los seres humanos deben conservar el control sobre su futuro, aunque para ello sea necesario limitar el desarrollo de una IA superinteligente. Su advertencia apunta a una posibilidad muy concreta: una sociedad en la que un sistema de IA evalúe la conducta humana y decida qué recompensas recibe cada persona.
La idea cuestionada por Altman aparece en un ensayo publicado en 2024 por Dario Amodei, CEO de Anthropic. Sin embargo, su aparente desacuerdo requiere cierto contexto. Amodei planteó la distribución dirigida por la IA como uno de varios modelos económicos posibles, no como una propuesta definitiva, y reconoció que este tipo de sistemas podría dar lugar a abusos o escenarios distópicos.
Para los usuarios de criptomonedas, este debate plantea una pregunta práctica: si los sistemas inteligentes se convierten en una pieza central de la economía, ¿podrán las personas seguir poseyendo, transfiriendo y utilizando sus activos sin tener que pedirles permiso?
La cuestión económica detrás del debate sobre la IA
En Machines of Loving Grace, Amodei imagina un futuro en el que la IA realice la mayor parte del trabajo de forma más eficiente y económica que los seres humanos. Si esto ocurre, los salarios podrían dejar de ser un mecanismo fiable para distribuir los beneficios de la producción económica.
Una posible respuesta sería la renta básica universal: las personas recibirían recursos independientemente de que tuvieran o no un empleo remunerado. Otra posibilidad, más inquietante, sería distribuir la riqueza generada por la IA en función de evaluaciones que determinasen qué actividades humanas merecen apoyo.
La diferencia es fundamental. No es lo mismo un sistema que garantiza recursos bajo unas reglas comprensibles y recurribles que otro en el que el acceso depende de una evaluación opaca de la conducta de cada persona.
La objeción de Altman se centra precisamente en esa pérdida de autonomía. La cuestión no es solo si un sistema de IA podría proporcionar bienestar material, sino si las personas conservarían una autoridad real sobre las decisiones, las instituciones y los recursos que determinan su vida.
Por qué la propiedad importa en una economía impulsada por la IA
A medida que los agentes de IA adquieren mayor capacidad para investigar, realizar compras y gestionar flujos de trabajo, también podrían asumir un papel más importante en la actividad financiera. Una empresa, por ejemplo, podría autorizar a un agente a pagar servicios de computación en la nube, mientras que un particular podría utilizarlo para gestionar transacciones rutinarias.
Esta comodidad pone de relieve una distinción esencial: un agente de IA puede actuar en nombre de un usuario sin ser dueño de sus activos ni disponer de autoridad ilimitada sobre ellos.
Las billeteras de criptomonedas y los contratos inteligentes permiten plasmar esta distinción en el código:
- Un usuario puede mantener sus activos en una cuenta bajo su control, en lugar de dejarlos por completo en manos de un proveedor de servicios.
- Una aplicación puede solicitar permiso para interactuar con esos activos, aunque el usuario deberá evaluar qué acciones autoriza realmente.
- Los contratos inteligentes pueden hacer cumplir condiciones predefinidas, como límites de gasto o la exigencia de varias aprobaciones.
- Las cadenas de bloques públicas permiten observar y verificar de forma independiente determinadas transacciones y reglas.
Ninguna de estas características garantiza un resultado justo. No obstante, pueden ofrecer a los usuarios herramientas para separar la asistencia de la autoridad, un principio especialmente útil cuando el software toma decisiones a la velocidad de una máquina.
Los agentes de IA necesitan permisos, no acceso ilimitado
Para que un agente de IA resulte útil en el entorno de las criptomonedas, es posible que necesite iniciar transacciones. Sin embargo, darle acceso a una clave privada sin restricciones podría poner en peligro toda la billetera si el agente se viera comprometido, fuera manipulado o, simplemente, cometiera un error.
Un diseño más seguro comienza por limitar las acciones que el agente puede realizar. Según la billetera y la infraestructura utilizadas, esto podría implicar:
- Establecer límites de gasto para un periodo o una tarea determinados.
- Restringir los destinatarios a direcciones o contratos previamente autorizados.
- Exigir aprobación humana para transacciones de mayor importe o fuera de lo habitual.
- Separar los fondos del agente de los activos destinados a mantenerse a largo plazo.
- Revocar los permisos cuando un agente o una aplicación deje de ser fiable.
La abstracción de cuentas es una de las áreas de desarrollo de Ethereum que puede facilitar un comportamiento más flexible de las cuentas. El estándar ERC-4337 describe un modelo de cuentas basadas en contratos inteligentes con una lógica de validación personalizable. Estos diseños pueden ayudar a los desarrolladores a crear procesos de autorización más adaptados a cada caso, aunque las protecciones disponibles dependen de cómo esté implementada la billetera y de las reglas que active realmente el usuario.
No existe un mecanismo universal que garantice la seguridad. Un límite de gasto solo será útil si está bien configurado, y un contrato malicioso o una interfaz comprometida aún pueden engañar al usuario para que conceda permisos peligrosos.
La transparencia es valiosa, pero no equivale a tener el control
En ocasiones, la tecnología blockchain se presenta como una solución automática frente al poder centralizado. La realidad es más compleja.
Una transacción puede ser visible en la cadena mientras la decisión que la originó permanece oculta. Un sistema de IA podría recurrir a un modelo propietario, datos privados o criterios no revelados para decidir quién recibe un pago. Registrar ese pago en un libro contable público no permite saber si la decisión fue razonable.
Del mismo modo, un contrato inteligente puede ejecutar reglas de manera coherente sin que esas reglas sean justas. Si un grupo reducido puede modificar el contrato, controlar los datos de los que depende o bloquear el acceso mediante una interfaz dominante, los usuarios podrían disfrutar de mucha menos autonomía de la que sugiere el registro en la cadena.
Ante cualquier sistema financiero vinculado a la IA, conviene plantearse preguntas como las siguientes:
- ¿Quién puede modificar las reglas?
- ¿Qué datos influyen en las decisiones?
- ¿Pueden los usuarios comprender e impugnar un resultado?
- ¿Pueden retirar sus activos o cambiar de proveedor?
- ¿Qué ocurre si el sistema de IA o su operador falla?
Estas cuestiones son tan importantes como la velocidad de las transacciones o la automatización. El control humano requiere tanto acceso técnico como instituciones que hagan que ese acceso sea efectivo.
El papel de la autocustodia
La autocustodia otorga a los usuarios la responsabilidad directa sobre las claves que autorizan las transacciones. En una economía cada vez más intermediada por servicios automatizados, esto puede establecer un límite fundamental: un asistente de IA puede recomendar una acción, pero el propietario de los activos conserva la capacidad de decidir si quiere firmarla.
Una billetera física como OneKey puede ayudar a mantener esa separación, ya que almacena las claves privadas en un dispositivo específico y exige aprobar las transacciones mediante el proceso de firma de la propia billetera. No puede determinar si una recomendación de la IA es acertada ni proteger a un usuario que, tras ser engañado, apruebe una transacción maliciosa. Los usuarios siguen teniendo la responsabilidad de verificar los detalles de cada operación y proteger su información de recuperación.
Para experimentar con agentes de IA en el día a día, mantener una cantidad limitada de fondos en una billetera independiente y reservar los activos a largo plazo para operaciones que requieran una aprobación más cuidadosa puede reducir la exposición al riesgo. La configuración adecuada dependerá de los activos, las aplicaciones y los riesgos de cada caso.
El objetivo es la autonomía, no solo la abundancia
El debate entre Altman y Amodei no se reduce a una elección entre aceptar la IA o rechazarla. Tanto su potencial económico como sus riesgos merecen un análisis serio. La cuestión más difícil es cómo garantizar que el aumento de las capacidades de las máquinas amplíe las opciones de los seres humanos, en lugar de sustituirlas silenciosamente.
Las criptomonedas no pueden resolver este problema por sí solas. Sin embargo, su énfasis en la propiedad, la portabilidad de los activos y la autorización explícita puede contribuir al diseño de sistemas en los que la IA actúe como una herramienta, y no como la autoridad definitiva que decida qué pueden hacer las personas con sus recursos.
