ByteDance Seed、独立したAI安全部門を設立へ：Yan Lin氏がWu Yonghui氏に直属、焦点はエージェントの権限逸脱

ByteDance Seedが独立した「Model-Alignment & Preparedness（モデル・アライメントおよび備え）」部門を新設すると報じられたことは、単なる社内のAIガバナンス体制の見直しにとどまらない。暗号資産業界にとってこれは、2025年にますます差し迫った課題となっている問いを浮き彫りにしている。AIエージェントが単に質問に答えるだけでなく、ツールを呼び出し、ワークフローを実行し、場合によってはオンチェーン資産とやり取りするようになったとき、何が起きるのか。

最近の業界報道によると、Seedの新部門は、Doubao大規模モデルのアライメント業務を担ってきたYan Lin氏が率い、Seed責任者のWu Yonghui氏に直接報告する体制になるという。旧Responsible AIチームのメンバーやChatチームの一部が、新組織へ移る見込みだとされている。担当領域には、モデル仕様、安全性評価、アライメント訓練、防御メカニズム、リスク監視、外部研究機関や第三者評価機関との連携などが含まれると報じられている。

ここから読み取れるメッセージは明確だ。AIモデルの推論能力やツール利用能力が高まるにつれ、安全性はもはや「チャットボットが不適切な回答をしないようにする」だけでは不十分になる。より難しい課題は、自律型エージェントがユーザーの許可範囲を超えないようにすることだ。

暗号資産ユーザーにとってAIエージェントの安全性が重要な理由

ブロックチェーン業界は、自律的なソフトウェアが取り返しのつかない操作を実行し得る、最も早い段階からの環境の一つだ。従来のWebアプリであれば、誤操作があってもカスタマーサポートによって取り消せる場合がある。しかし、ブロックチェーン取引は一度承認されると、通常は確定し、元に戻せない。

だからこそ、AIエージェントのアライメントは暗号資産において特に重要になる。市場データを要約するだけのエージェントであれば、リスクは比較的低い。だが、ウォレットに接続し、取引を作成し、トークンのアローワンスを承認し、資産をブリッジし、報酬を請求し、DeFiプロトコルとやり取りできるエージェントは、はるかにリスクの高い環境で動くことになる。

ここで重要になるのが、「チャットの安全性」と「エージェントの安全性」の違いだ。暗号資産の世界で危険なのは、モデルが悪い回答をすることだけではない。ユーザーが意図していない行動をモデルが実行してしまうことこそが問題なのだ。

例として、次のようなケースがある。

• 要求された範囲を超える権限を持つ取引に署名してしまう
• 悪意あるコントラクトに無制限のトークンアローワンスを承認する
• 正規のdAppを装ったフィッシングサイトとやり取りする
• 明確なユーザー同意なしにチェーン間で資金を移動する
• 改ざんされたデータやプロンプトインジェクションに基づいて戦略を実行する
• 個人情報やポートフォリオの詳細を外部にさらすツールを呼び出す

取引、ポートフォリオ管理、スマートコントラクト分析、オンチェーン操作においてAIエージェントの利用が広がるほど、業界には「このアシスタントは役に立ちそうだった」というレベルを超えた、より強固な安全モデルが求められる。

モデル・アライメントからトランザクション・アライメントへ

AIアライメントとは通常、モデルの振る舞いを人間の意図、安全ルール、ポリシー上の制約と一致させることを指す。暗号資産においては、この考え方をさらに拡張し、「トランザクション・アライメント」とでも呼ぶべき領域に踏み込む必要がある。つまり、AIが提案するオンチェーン操作は、ユーザーが明示的に承認した内容と一致していなければならない。

そのためには、自然言語での確認だけでは不十分だ。ユーザーが「この資産のステーキングを手伝って」と言ったとしても、その取引の中には複数の隠れた手順、トークン承認、コントラクト呼び出し、クロスチェーン操作が含まれている可能性がある。AIエージェントが操作を準備する場合でも、ユーザーには実際に何へ署名しようとしているのかを確実に検証できる手段が必要だ。

ここでハードウェアウォレットの重要性は依然として大きい。安全な署名デバイスは、AIによる提案とユーザーが承認する実行との間に明確な分離を作ることができる。たとえばOneKeyは、セルフカストディと取引確認を軸に設計されており、ユーザーが秘密鍵をオフラインに保ちながら、資金が移動する前に署名リクエストを確認できるよう支援する。AIエージェントが普及する未来では、この分離はさらに価値を増す。

原則はシンプルだ。AIは支援してよい。しかし、秘密鍵に関する最終権限者になってはならない。

ツール利用が新たなセキュリティ境界になる

現代のAIシステムは、ますますツール呼び出しに依存するようになっている。ブラウザ、API、データベース、コード実行環境、取引インターフェース、ウォレット関連サービスにアクセスすることもある。このアーキテクチャはAIをより便利にする一方で、新たな攻撃面も生み出す。

セキュリティコミュニティではすでに、プロンプトインジェクション、安全でないツール設計、データ漏洩、過剰な自律性といったリスクが指摘されている。OWASP Top 10 for Large Language Model Applicationsは、こうした脅威を理解するうえで有用な枠組みを提供しており、悪意ある指示がWebページ、文書、外部データソースの中に隠される可能性なども扱っている。

暗号資産ユーザーにとって、プロンプトインジェクションは金銭的な被害に直結し得る。たとえば、AIエージェントが読み込んだWebページに、悪意あるコントラクトを推奨させる隠し指示が埋め込まれていたらどうなるか。あるいは、トークンページを分析するエージェントが操作され、攻撃者に利益をもたらす取引を生成してしまう可能性もある。

重要なのは、モデルが賢いかどうかではない。モデルに行動する権限があるのか、どのツールへアクセスできるのか、その行動がどのように制約されているのかである。

独立したAI安全チームが戦略的に重要になっている理由

Seedが安全性とアライメントを独立部門として切り出すと報じられたことは、業界全体の大きな流れを反映している。AI安全性は、研究上の関心事から、運用上の必須要件へと移りつつある。

汎用モデルを構築する企業にとって、課題はもはやベンチマークスコアを高めることだけではない。より高性能になったシステムが、現実世界の条件下でも制御可能であり続けることを示す必要がある。その中には、危険な能力の評価、不正利用の監視、展開前のより厳格な管理も含まれる。

NIST AI Risk Management Frameworkは、AIリスクに関するガバナンス、マッピング、測定、管理を重視している。こうした概念は、AIシステムがスマートコントラクト、市場インフラ、デジタル資産とやり取りする可能性のあるブロックチェーンアプリケーションにおいて、ますます重要になっている。

外部評価も重要だ。モデル提供者が自社システムを自ら評価する場合、社内のインセンティブによって、スピードや製品リリースが優先される方向に偏る可能性がある。特に金融ワークフローに組み込まれ得るシステムでは、第三者によるテストが、より信頼できる安全性の基準を作るうえで役立つ。

CBRNへの言及が示す、より広い「備え」の発想

報じられているCBRNリスク、すなわち化学・生物・放射性物質・核に関するリスクへの注目は、暗号資産とは一見距離があるように見える。しかしこれは、主要なAIラボが日常的なコンテンツモデレーションだけでなく、大きな被害をもたらし得る悪用まで視野に入れていることを示している。

ブロックチェーンにおいても、これに相当する備えの発想は、金融上の悪用やインフラの濫用に向けられるべきだ。AIエージェントは、フィッシングメッセージの作成、スマートコントラクトの脆弱性分析、詐欺キャンペーンの自動化、悪用しやすいユーザー行動の特定などを支援することで、攻撃者に必要なスキルのハードルを下げてしまう可能性がある。

これは、AIを拒絶すべきだという意味ではない。暗号資産で使われるAIシステムは、厳格な境界を前提に設計されるべきだということだ。

• 秘密鍵を露出させない
• 自動署名を行わない
• 隠れた取引実行を行わない
• デフォルトで無制限のトークン承認を許可しない
• 第三者データを盲信しない
• ウォレットAPIへの管理されていないアクセスを許さない
• エージェントの判断とツール呼び出しについて明確なログを残す

AIモデルが強力になるほど、安全性は暗黙の前提ではなく、より明示的な仕組みで担保されなければならない。

2025年：AIエージェントがアカウント抽象化、DeFi、オンチェーン自動化と交わる

この議論のタイミングは重要だ。2025年、暗号資産ユーザーはアカウント抽象化、インテントベースの取引、自動売買エージェント、AI支援型DeFiインターフェースにより注目するようになっている。

アカウント抽象化は、ウォレットをよりプログラム可能で使いやすいものにできる。Ethereumのアカウント抽象化ロードマップでは、スマートコントラクトアカウントによって、より柔軟な認可や復旧設計を含む新しい取引モデルが可能になると説明されている。こうした改善はユーザーに利益をもたらす一方で、権限設計をより複雑にする。

インテントベースのシステムは、さらに別の抽象化レイヤーを作る。ユーザーはすべての取引手順を手作業で指定する代わりに、「この資産を最良価格でスワップして」「ポートフォリオをリバランスして」「手数料の低いネットワークへ資金を移して」といった結果を表現するようになる。AIエージェントは、目標を解釈し、複数の行動を調整できるため、このモデルと自然に相性がよい。

しかし、抽象化はリスクを隠すこともある。ユーザーが裏側で何が起きているのかを理解していなければ、悪意ある、あるいは十分にアライメントされていないエージェントがその隙を突く可能性がある。そのため、業界はより優れたUXと、より強力な検証を両立させなければならない。

目指すべき未来は、「AIがすべてを行い、ユーザーは安全であることを祈る」ではない。「AIが提案し、セキュリティシステムが制約をかけ、ユーザーが承認する」未来であるべきだ。

暗号資産プロダクト開発者への実践的な教訓

AI対応の暗号資産プロダクトを構築するチームにとって、Seedの組織再編報道から得られる教訓はいくつかある。

1. プロダクト成長と安全性ガバナンスを分離する

AI安全性を、リリース直前のチェックリストのように扱うべきではない。プロダクトチームが普及率だけで評価される場合、発生頻度は低くても影響の大きいリスクを過小評価しがちだ。専任の安全機能があれば、ユーザーがリスクにさらされる前に前提を問い直すことができる。

2. エージェントが「してはならないこと」を定義する

明確なモデル仕様は重要だ。AIエージェントには、呼び出せるツール、やり取りできるコントラクト、追加確認が必要な取引サイズ、禁止される行動について、明示的な制限が必要である。

3. 認可を機械可読にする

自然言語による同意だけでは足りない。暗号資産アプリケーションは、ユーザーの許可をプログラムで強制できる構造化されたルールへ変換すべきだ。たとえば、エージェントには取引シミュレーションを許可しても送信は許可しない、一定額以下のスワップ準備は許可してもトークンアローワンスの承認は許可しない、といった設計が考えられる。

4. 署名前にシミュレーションを行う

取引シミュレーションは、実行前に起こり得る結果をユーザーが理解する助けになる。AIエージェントが複数ステップの操作を生成する場合や、見慣れないスマートコントラクトとやり取りする場合には特に重要だ。

5. 署名を隔離する

AIシステムが秘密鍵を管理すべきではない。署名をAIの意思決定から切り離しておけば、モデルが操作されたり、侵害されたり、単純に誤った判断をした場合でも、被害範囲を抑えられる。

ユーザーが確認すべきポイント

AI搭載ツールを評価する暗号資産ユーザーは、次のような点を直接確認すべきだ。

• AIは取引を開始できるのか、それとも説明するだけなのか
• 必要になる前にウォレット接続を求めていないか
• トークン承認は限定的か、それとも無制限か
• 取引シミュレーションはあるか
• AIはポートフォリオデータ、閲覧履歴、個人ファイルにアクセスできるのか
• ツール呼び出しはユーザーに見える形になっているか
• 署名は別の安全なデバイスで行われるか

これらの答えが曖昧であれば、ユーザーは慎重になるべきだ。利便性のために、資産に対するコントロールを手放す必要があってはならない。

AIと暗号資産にとって、より安全な道筋

ByteDance SeedがAI安全性とアライメントに特化した部門を設けると報じられたことは、テクノロジー業界全体の変化を示している。強力なモデルには、専用のガバナンス、継続的な評価、そしてツール利用をめぐるより強固な保護策が必要だ。

暗号資産においては、AIエージェントが近い将来、ウォレット、スマートコントラクト、取引所、ブリッジ、DeFiプロトコルの近くで動作する可能性があるため、利害は特に大きい。業界はAIによる支援を歓迎すべきだが、それは明確な認可境界と安全な署名慣行があってこそである。

この環境におけるOneKeyの役割は明快だ。秘密鍵をユーザーの管理下に置き、資産のカストディをAI主導の意思決定から切り離すことである。AIエージェントの能力が高まるほど、この分離は日常的に暗号資産を使うユーザーにとって、最も重要なセキュリティ原則の一つになっていくだろう。