ByteDance Seed crée une unité indépendante dédiée à la sécurité de l’IA : Yan Lin rapportera à Wu Yonghui, avec un accent sur les dérives des agents autonomes

La décision, rapportée par plusieurs sources, de ByteDance Seed de créer un département indépendant consacré à l’alignement des modèles et à la préparation aux risques dépasse le simple ajustement interne de gouvernance de l’IA. Pour l’industrie crypto, elle met en lumière une question qui devient de plus en plus urgente en 2025 : que se passe-t-il lorsque les agents d’IA ne se contentent plus de répondre à des questions, mais commencent aussi à appeler des outils, exécuter des workflows et, potentiellement, interagir avec des actifs on-chain ?

Selon de récents rapports sectoriels, cette nouvelle unité de Seed sera dirigée par Yan Lin, jusqu’ici responsable des travaux d’alignement du grand modèle Doubao, et rapportera directement à Wu Yonghui, responsable de Seed. Des membres de l’ancienne équipe Responsible AI ainsi qu’une partie de l’équipe Chat devraient rejoindre cette nouvelle structure. Son périmètre couvrirait notamment les spécifications des modèles, les évaluations de sécurité, l’entraînement à l’alignement, les mécanismes de protection, la surveillance des risques, ainsi que la collaboration avec des institutions de recherche externes et des évaluateurs tiers.

Le message de fond est clair : à mesure que les modèles d’IA gagnent en capacités de raisonnement et d’utilisation d’outils, la sécurité ne peut plus se limiter à empêcher des réponses inappropriées dans un chatbot. Le problème le plus complexe consiste désormais à s’assurer que des agents autonomes ne dépassent pas l’autorisation accordée par l’utilisateur.

Pourquoi la sécurité des agents d’IA compte pour les utilisateurs crypto

L’industrie blockchain fait partie des premiers environnements où des logiciels autonomes peuvent effectuer des actions irréversibles. Dans une application web classique, une opération erronée peut parfois être annulée par le service client. Sur une blockchain, une transaction confirmée est généralement définitive.

C’est ce qui rend l’alignement des agents d’IA particulièrement important dans la crypto. Un agent capable de résumer des données de marché présente un risque relativement limité. En revanche, un agent capable de se connecter à un wallet, de préparer une transaction, d’approuver une autorisation de token, de transférer des actifs entre blockchains, de réclamer des récompenses ou d’interagir avec un protocole DeFi évolue dans un environnement beaucoup plus risqué.

C’est pourquoi la distinction entre « sécurité conversationnelle » et « sécurité des agents » est essentielle. Dans la crypto, le danger ne réside pas seulement dans le fait qu’un modèle donne une mauvaise réponse. Le vrai risque est qu’un modèle exécute une action que l’utilisateur n’avait pas l’intention d’autoriser.

Quelques exemples :

• Signer une transaction accordant des permissions plus larges que demandé
• Approuver des autorisations illimitées de tokens pour un contrat malveillant
• Interagir avec un site de phishing imitant une dApp légitime
• Déplacer des fonds d’une blockchain à une autre sans consentement clair de l’utilisateur
• Exécuter une stratégie fondée sur des données manipulées ou une injection de prompt
• Appeler des outils externes exposant des informations privées ou des détails de portefeuille

L’essor des agents d’IA dans le trading, la gestion de portefeuille, l’analyse de smart contracts et les opérations on-chain montre que l’industrie a besoin d’un modèle de sécurité plus robuste que le simple constat selon lequel « l’assistant semblait utile ».

De l’alignement du modèle à l’alignement des transactions

L’alignement de l’IA désigne généralement le fait de rendre le comportement d’un modèle cohérent avec l’intention humaine, les règles de sécurité et les contraintes de politique interne. Dans la crypto, cette idée doit être étendue à ce que l’on pourrait appeler l’alignement des transactions : l’action on-chain proposée par l’IA doit correspondre précisément à l’autorisation explicite de l’utilisateur.

Cela exige davantage qu’une confirmation en langage naturel. Un utilisateur peut dire : « Aide-moi à staker cet actif », mais la transaction peut inclure plusieurs étapes cachées, des approbations de tokens, des appels de contrats ou des opérations cross-chain. Même si un agent d’IA prépare l’action, l’utilisateur doit pouvoir vérifier de manière fiable ce qu’il s’apprête réellement à signer.

C’est là que les hardware wallets conservent toute leur importance. Un appareil de signature sécurisé permet de séparer les suggestions pilotées par l’IA de l’exécution validée par l’utilisateur. OneKey, par exemple, est conçu autour de l’auto-conservation et de la confirmation des transactions, afin d’aider les utilisateurs à garder leurs clés privées hors ligne tout en examinant les demandes de signature avant tout déplacement de fonds. Dans un futur dominé par les agents d’IA, cette séparation deviendra encore plus précieuse.

Le principe est simple : l’IA peut assister l’utilisateur, mais elle ne doit pas devenir l’autorité finale sur ses clés privées.

L’utilisation d’outils devient la nouvelle frontière de sécurité

Les systèmes d’IA modernes s’appuient de plus en plus sur l’appel d’outils. Ils peuvent accéder à des navigateurs, des API, des bases de données, des environnements d’exécution de code, des interfaces de trading ou des services liés aux wallets. Cette architecture rend l’IA plus utile, mais elle crée aussi de nouvelles surfaces d’attaque.

La communauté de la sécurité a déjà identifié des risques tels que l’injection de prompt, la conception non sécurisée d’outils, les fuites de données et l’excès d’autonomie. Le Top 10 de l’OWASP pour les applications fondées sur de grands modèles de langage fournit un cadre utile pour comprendre ces menaces, notamment la manière dont des instructions malveillantes peuvent être dissimulées dans des pages web, des documents ou des sources de données externes.

Pour les utilisateurs crypto, l’injection de prompt peut rapidement devenir un risque financier. Imaginez un agent d’IA lisant une page web contenant des instructions cachées lui demandant de recommander un contrat malveillant. Ou un agent analysant la page d’un token et manipulé pour générer une transaction au profit d’un attaquant.

La question centrale n’est pas de savoir si le modèle est intelligent. Elle est de savoir s’il a le droit d’agir, à quels outils il peut accéder et comment ses actions sont encadrées.

Pourquoi les équipes indépendantes de sécurité de l’IA deviennent stratégiques

La décision rapportée de Seed de séparer la sécurité et l’alignement au sein d’un département autonome reflète une tendance plus large dans l’industrie. La sécurité de l’IA passe du statut de sujet de recherche à celui d’exigence opérationnelle.

Pour les entreprises qui développent des modèles généralistes, le défi ne consiste plus seulement à améliorer les scores sur les benchmarks. Elles doivent démontrer que des systèmes plus puissants restent contrôlables dans des conditions réelles. Cela implique d’évaluer les capacités dangereuses, de surveiller les usages abusifs et d’appliquer des contrôles plus stricts avant le déploiement.

Le cadre de gestion des risques liés à l’IA du NIST met l’accent sur la gouvernance, la cartographie, la mesure et la gestion des risques de l’IA. Ces notions deviennent de plus en plus pertinentes pour les applications blockchain, où les systèmes d’IA peuvent interagir avec des smart contracts, des infrastructures de marché et des actifs numériques.

L’évaluation externe est également essentielle. Lorsque les fournisseurs de modèles évaluent eux-mêmes leurs systèmes, les incitations internes peuvent orienter le processus vers la rapidité et la mise sur le marché. Des tests réalisés par des tiers peuvent établir une base de sécurité plus crédible, en particulier pour des systèmes susceptibles d’être intégrés à des workflows financiers.

La référence aux risques CBRN traduit une logique de préparation plus large

L’accent apparemment mis sur les risques CBRN — chimiques, biologiques, radiologiques et nucléaires — peut sembler éloigné de la crypto. Pourtant, il montre que les principaux laboratoires d’IA réfléchissent aux usages abusifs à fort impact, et pas seulement à la modération de contenu ordinaire.

Dans la blockchain, cette logique de préparation devrait s’appliquer aux abus financiers et aux attaques contre les infrastructures. Les agents d’IA peuvent abaisser le niveau de compétence nécessaire aux attaquants en les aidant à rédiger des messages de phishing, analyser les faiblesses de smart contracts, automatiser des campagnes d’arnaque ou identifier des comportements d’utilisateurs exploitables.

Cela ne signifie pas qu’il faille rejeter l’IA. Cela signifie que les systèmes d’IA utilisés dans la crypto doivent être conçus avec des limites strictes :

• Aucune exposition des clés privées
• Aucune signature automatique
• Aucune exécution cachée de transaction
• Aucune autorisation illimitée de tokens par défaut
• Aucune confiance aveugle dans les données de tiers
• Aucun accès non maîtrisé aux API de wallets
• Des journaux clairs des décisions de l’agent et des appels d’outils

À mesure que les modèles d’IA deviennent plus puissants, la sécurité doit devenir plus explicite, et non plus implicite.

2025 : les agents d’IA rencontrent l’abstraction de compte, la DeFi et l’automatisation on-chain

Le moment choisi pour cette discussion est important. En 2025, les utilisateurs crypto s’intéressent de plus près à l’abstraction de compte, aux transactions fondées sur l’intention, aux agents de trading automatisés et aux interfaces DeFi assistées par l’IA.

L’abstraction de compte peut rendre les wallets plus programmables et plus simples à utiliser. La feuille de route d’Ethereum sur l’abstraction de compte explique comment les comptes sous forme de smart contracts peuvent permettre de nouveaux modèles de transaction, avec des mécanismes d’autorisation et de récupération plus flexibles. Ces améliorations peuvent bénéficier aux utilisateurs, mais elles rendent aussi la conception des permissions plus complexe.

Les systèmes fondés sur l’intention ajoutent une couche d’abstraction supplémentaire. Au lieu de définir manuellement chaque étape d’une transaction, l’utilisateur peut exprimer un résultat : « échange cet actif au meilleur prix », « rééquilibre mon portefeuille » ou « transfère des fonds vers un réseau moins coûteux ». Les agents d’IA s’intègrent naturellement dans ce modèle, puisqu’ils peuvent interpréter des objectifs et coordonner des actions.

Mais l’abstraction peut masquer le risque. Si les utilisateurs ne comprennent pas ce qui se passe en coulisses, des agents malveillants ou mal alignés peuvent exploiter cette zone d’ombre. L’industrie doit donc combiner une meilleure expérience utilisateur avec une vérification plus solide.

L’avenir ne devrait pas être : « l’IA fait tout et l’utilisateur espère que c’est sûr ». Il devrait plutôt être : « l’IA propose, les systèmes de sécurité encadrent, et l’utilisateur autorise ».

Enseignements pratiques pour les développeurs crypto

Pour les équipes qui construisent des produits crypto intégrant l’IA, la restructuration rapportée de Seed offre plusieurs enseignements utiles.

1. Séparer la croissance produit de la gouvernance de la sécurité

La sécurité de l’IA ne doit pas être traitée comme une simple case à cocher à la dernière minute. Si une équipe produit est récompensée uniquement sur l’adoption, elle risque de sous-estimer les risques rares mais à fort impact. Une fonction de sécurité dédiée peut remettre en question les hypothèses avant que les utilisateurs n’y soient exposés.

2. Définir ce que l’agent n’a pas le droit de faire

Des spécifications claires du modèle sont essentielles. Un agent d’IA doit avoir des limites explicites : quels outils il peut appeler, avec quels contrats il peut interagir, quels montants de transaction nécessitent une confirmation supplémentaire et quelles actions sont interdites.

3. Rendre l’autorisation lisible par machine

Le consentement en langage naturel ne suffit pas. Les applications crypto devraient traduire les permissions des utilisateurs en règles structurées pouvant être appliquées automatiquement. Par exemple, un agent peut être autorisé à simuler des transactions mais pas à les soumettre, ou à préparer des swaps sous un certain montant sans pour autant approuver des autorisations de tokens.

4. Utiliser la simulation avant la signature

La simulation de transactions aide les utilisateurs à comprendre les résultats potentiels avant exécution. Elle est particulièrement importante lorsque des agents d’IA génèrent des actions en plusieurs étapes ou interagissent avec des smart contracts inconnus.

5. Isoler la signature

Les systèmes d’IA ne devraient pas contrôler les clés privées. Séparer la signature de la prise de décision par l’IA réduit le périmètre des dégâts si le modèle est manipulé, compromis ou tout simplement erroné.

Ce que les utilisateurs doivent surveiller

Les utilisateurs crypto qui évaluent des outils alimentés par l’IA devraient poser des questions directes :

• L’IA peut-elle initier des transactions, ou seulement les expliquer ?
• L’outil demande-t-il une connexion au wallet avant que cela soit nécessaire ?
• Les autorisations de tokens sont-elles limitées ou illimitées ?
• Existe-t-il une simulation de transaction ?
• L’IA peut-elle accéder aux données du portefeuille, à l’historique de navigation ou à des fichiers personnels ?
• Les appels d’outils sont-ils visibles par l’utilisateur ?
• La signature est-elle effectuée sur un appareil sécurisé séparé ?

Si les réponses ne sont pas claires, les utilisateurs doivent faire preuve de prudence. Le confort d’utilisation ne devrait jamais exiger de renoncer au contrôle de ses actifs.

Une voie plus sûre pour l’IA et la crypto

La création rapportée par ByteDance Seed d’une unité dédiée à la sécurité et à l’alignement de l’IA reflète une évolution plus large de l’industrie technologique : les modèles puissants nécessitent une gouvernance dédiée, une évaluation continue et des garde-fous plus solides autour de l’utilisation d’outils.

Pour la crypto, les enjeux sont particulièrement élevés, car les agents d’IA pourraient bientôt opérer à proximité des wallets, des smart contracts, des plateformes d’échange, des bridges et des protocoles DeFi. L’industrie devrait accueillir l’assistance de l’IA, mais uniquement avec des limites d’autorisation claires et des pratiques de signature sécurisées.

Dans cet environnement, le rôle de OneKey est simple : maintenir les clés privées sous le contrôle de l’utilisateur et séparer la conservation des actifs de la prise de décision pilotée par l’IA. À mesure que les agents d’IA deviennent plus performants, cette séparation pourrait devenir l’un des principes de sécurité les plus importants pour les utilisateurs crypto du quotidien.