Altman contre Amodei : à l’ère de la superintelligence, les humains garderont-ils le contrôle — ou seront-ils traités comme des animaux de compagnie ?

Que se passera-t-il si l’intelligence artificielle devient plus performante que l’être humain dans presque toutes les tâches ayant une valeur économique ? La réponse dépendra non seulement de la richesse que l’IA pourra créer, mais aussi de ceux qui en contrôleront l’accès.

Sam Altman, PDG d’OpenAI, estime que les humains doivent rester maîtres de leur avenir, quitte à limiter le développement d’une IA superintelligente. Sa mise en garde vise un scénario bien précis : celui d’une société dans laquelle un système d’IA évaluerait le comportement humain et déciderait des avantages accordés à chacun.

L’idée qu’il conteste figure dans un essai publié en 2024 par Dario Amodei, PDG d’Anthropic. Leur désaccord apparent mérite toutefois d’être replacé dans son contexte. Amodei présentait la répartition des richesses pilotée par l’IA comme un modèle économique possible, et non comme une recommandation définitive. Il reconnaissait également qu’un tel système pourrait conduire à l’exploitation ou à des dérives dystopiques.

Pour les utilisateurs de cryptomonnaies, ce débat soulève une question concrète : si les systèmes intelligents deviennent indispensables au fonctionnement de l’économie, les individus pourront-ils encore posséder, transférer et utiliser leurs actifs sans devoir leur en demander l’autorisation ?

La question économique au cœur du débat sur l’IA

Dans Machines of Loving Grace, Amodei envisage un avenir où l’IA accomplirait l’essentiel du travail plus efficacement et à moindre coût que les humains. Si ce scénario se réalise, les salaires pourraient ne plus constituer un moyen fiable de répartir les bénéfices de la production économique.

Une réponse possible serait d’instaurer un revenu universel : chacun recevrait des ressources, qu’il occupe ou non un emploi rémunéré. Une autre possibilité, plus préoccupante, consisterait à répartir les richesses générées par l’IA en fonction d’une évaluation des activités humaines jugées dignes d’être soutenues.

La différence est fondamentale. Un système qui garantit à chacun des ressources selon des règles compréhensibles et contestables n’a rien à voir avec un dispositif qui conditionne cet accès à une évaluation opaque de son comportement.

C’est précisément cette perte d’autonomie que dénonce Altman. La question ne se limite pas à savoir si un système d’IA serait capable d’assurer le confort matériel de la population. Il s’agit de déterminer si les individus conserveraient un véritable pouvoir sur les choix, les institutions et les ressources qui façonnent leur existence.

Pourquoi la propriété est essentielle dans une économie pilotée par l’IA

À mesure que les agents d’IA deviennent capables de mener des recherches, d’effectuer des achats et de gérer des processus de travail, ils pourraient également jouer un rôle croissant dans les activités financières. Une entreprise pourrait, par exemple, autoriser un agent à régler ses dépenses de cloud computing, tandis qu’un particulier pourrait lui confier la gestion de ses transactions courantes.

Cette commodité suppose toutefois une distinction essentielle : un agent d’IA peut agir au nom d’un utilisateur sans pour autant posséder ses actifs ni disposer sur eux d’un pouvoir illimité.

Les portefeuilles crypto et les contrats intelligents permettent d’inscrire cette distinction dans le code :

• Un utilisateur peut conserver ses actifs sur un compte qu’il contrôle, plutôt que de les confier entièrement à un prestataire.
• Une application peut demander l’autorisation d’interagir avec ces actifs, même s’il appartient toujours à l’utilisateur de vérifier précisément la portée de cette autorisation.
• Les contrats intelligents peuvent faire respecter des conditions prédéfinies, comme des plafonds de dépenses ou l’obligation d’obtenir plusieurs validations.
• Les blockchains publiques peuvent rendre certaines transactions et certaines règles observables de manière indépendante.

Aucune de ces fonctionnalités ne garantit un résultat équitable. Elles peuvent néanmoins aider les utilisateurs à dissocier l’assistance du pouvoir de décision — un principe particulièrement utile lorsque les logiciels prennent des décisions à la vitesse des machines.

Les agents d’IA ont besoin d’autorisations, pas d’un accès illimité

Pour être utile dans l’univers des cryptomonnaies, un agent d’IA peut avoir besoin d’initier des transactions. Lui donner accès à une clé privée sans aucune restriction pourrait toutefois mettre en péril l’ensemble du portefeuille si l’agent était compromis, manipulé ou commettait simplement une erreur.

Une conception plus sûre consiste d’abord à limiter son champ d’action. Selon le portefeuille et l’infrastructure utilisés, cela pourrait impliquer de :

1. Définir des plafonds de dépenses pour une période ou une tâche précise.
2. Limiter les destinations aux adresses ou contrats préalablement approuvés.
3. Exiger une validation humaine pour les transactions importantes ou inhabituelles.
4. Séparer les fonds confiés à l’agent des actifs détenus à long terme.
5. Révoquer les autorisations lorsqu’un agent ou une application n’est plus digne de confiance.

L’abstraction de compte est l’un des axes de développement d’Ethereum permettant de rendre le fonctionnement des comptes plus flexible. La norme ERC-4337 décrit une approche fondée sur des comptes sous forme de contrats intelligents, dotés d’une logique de validation personnalisable. Ce type d’architecture peut aider les développeurs à concevoir des processus d’autorisation mieux adaptés à chaque usage. Les protections disponibles dépendent toutefois de la mise en œuvre du portefeuille et des règles effectivement activées par l’utilisateur.

Il n’existe aucun mécanisme de sécurité universel. Un plafond de dépenses n’est utile que s’il est correctement configuré, et un contrat malveillant ou une interface compromise peut toujours inciter l’utilisateur à accorder des autorisations dangereuses.

La transparence est précieuse, mais elle ne suffit pas à garantir le contrôle

La blockchain est parfois présentée comme une solution automatique à la concentration du pouvoir. La réalité est plus complexe.

Une transaction peut être visible sur la blockchain alors même que la décision qui l’a déclenchée reste opaque. Un système d’IA pourrait s’appuyer sur un modèle propriétaire, des données privées ou des critères non divulgués pour décider qui recevra un paiement. Enregistrer ce paiement dans un registre public ne permet pas de savoir si la décision était justifiée.

De même, un contrat intelligent peut appliquer des règles de manière cohérente sans que celles-ci soient pour autant équitables. Si un petit groupe peut modifier le contrat, contrôler les données dont il dépend ou bloquer l’accès au moyen d’une interface dominante, l’autonomie réelle des utilisateurs peut être bien plus limitée que ne le laisse penser le registre sur la blockchain.

Pour tout système financier associé à l’IA, il convient notamment de se poser les questions suivantes :

• Qui peut modifier les règles ?
• Quelles données influencent la décision ?
• Les utilisateurs peuvent-ils comprendre et contester le résultat ?
• Peuvent-ils retirer leurs actifs ou changer de prestataire ?
• Que se passe-t-il en cas de défaillance du système d’IA ou de son opérateur ?

Ces questions sont tout aussi importantes que la vitesse des transactions ou leur automatisation. Pour que le contrôle reste humain, il faut à la fois un accès technique et des institutions qui donnent à cet accès une portée réelle.

La place de l’auto-garde

L’auto-garde confère aux utilisateurs la responsabilité directe des clés qui autorisent les transactions. Dans une économie où les services automatisés jouent un rôle croissant, elle peut instaurer une séparation essentielle : un assistant d’IA peut recommander une opération, mais le propriétaire des actifs conserve le pouvoir de décider s’il souhaite ou non la signer.

Un portefeuille matériel comme OneKey peut renforcer cette séparation en conservant les clés privées sur un appareil dédié et en exigeant que les transactions soient approuvées au moyen du processus de signature du portefeuille. Il ne peut cependant pas déterminer si la recommandation d’une IA est judicieuse, ni protéger un utilisateur qui, après avoir été trompé, valide une transaction malveillante. Il reste donc indispensable de vérifier les détails de chaque opération et de protéger soigneusement les informations de récupération.

Pour expérimenter au quotidien avec des agents d’IA, placer une somme limitée dans un portefeuille distinct et réserver les actifs détenus à long terme à des procédures de validation plus rigoureuses peut réduire les risques. La configuration appropriée dépendra des actifs concernés, des applications utilisées et du niveau de risque encouru.

L’objectif est de préserver l’autonomie, pas seulement de créer l’abondance

Le débat entre Altman et Amodei ne se résume pas à un choix binaire entre accueillir l’IA à bras ouverts et la rejeter. Ses promesses économiques comme ses risques méritent d’être examinés avec sérieux. La question la plus difficile consiste à déterminer comment faire en sorte que les capacités croissantes des machines élargissent les possibilités offertes aux humains, au lieu de s’y substituer insidieusement.

Les cryptomonnaies ne peuvent pas résoudre cette question à elles seules. Mais l’importance qu’elles accordent à la propriété, à la portabilité des actifs et aux autorisations explicites peut contribuer à concevoir des systèmes dans lesquels l’IA reste un outil — et ne devient pas l’autorité suprême décidant de ce que chacun peut faire de ses ressources.