中国、AIライフサイクル全体を対象とする法整備へ――リスク報告と規制サンドボックスを視野に

中国は、人工知能（AI）ガバナンスの枠組みをさらに拡大しようとしている。これは、AIとブロックチェーン技術を組み合わせる企業にも影響を及ぼす可能性がある。国家発展改革委員会が11月3日に示した方針によると、データやコンピューティング資源からアルゴリズム、実社会での応用に至るまで、AIのライフサイクル全体を監督の対象とする方向だ。

開発者や運営事業者には、安全上のリスクを速やかに開示し、インシデントや脆弱性を自主的に報告することが求められる見通しだ。一方、政策当局は、企業が管理された環境下で新技術を試験できるよう、移行期間や規制サンドボックスを設けることも想定している。

暗号資産関連企業にとって、ここでの区別は重要だ。報じられている施策はあくまで政策の方向性であり、確定した義務ではない。企業は、今後成立する法制度の適用範囲や施行時期に加え、暗号資産関連事業に対する既存の規制とどのように整合するのかを注視する必要がある。

AIのライフサイクル全体に対する監督が意味するもの

今回提案されているアプローチでは、モデルの出力結果だけに注目するのではなく、開発から導入・運用までのあらゆる段階でリスクを検討する。具体的には、学習データをどのように取得したか、システムをどのようにテストしたか、製品の公開後に何が起こり得るか、問題が発生した際に運営者がどう対応するか、といった点が対象になり得る。

中国では、すでに一部のAIサービスが規制されている。2023年に施行された生成AIサービス管理暫定弁法は、中国国内の一般利用者向けにコンテンツを生成する一定のサービスを対象としている。今後、より包括的な法律がこの枠組みに加わる可能性はあるものの、既存の規制と将来の法制度がどのような関係になるかは、現時点では明らかになっていない。

ブロックチェーン関連の開発チームにとって、AIは製品のさまざまな部分に組み込まれ得る。たとえば、カスタマーサポート用アシスタント、取引監視ツール、スマートコントラクト分析サービス、自動売買インターフェースなどだ。それぞれに異なるリスクがある。取引内容を説明するチャットボットが機密性の高いユーザーデータを外部に漏らす可能性がある一方、取引を自ら開始できるAIエージェントは、取り消しの難しい誤操作を引き起こすおそれがある。

この政策方針は、技術的なセキュリティだけを対象とするものではない。雇用への影響、利用者のAI依存、ディープフェイク、アルゴリズムによる差別、プライバシー情報の漏えいなども、注意を要する領域として挙げられている。こうした懸念は、AIを利用してアカウントへのアクセス可否を判断したり、金融関連コンテンツを生成したり、会話形式でユーザーに応対したりする暗号資産プラットフォームにも関係する可能性がある。

暗号資産製品でリスク開示が重要な理由

インシデントや脆弱性の報告を重視する方針は、デジタル資産を扱う製品にとって特に重要だ。問題は単なる回答ミスにとどまらない。AIシステムがコントラクトを誤って解釈したり、悪意あるアドレスを推奨したり、安全でない取引を承認するようユーザーを誘導したりする可能性もある。

自社が抱えるリスクを評価する際には、まず以下の項目を文書化するとよい。

• システムの境界： AIが判断する範囲はどこまでで、どの判断に人間の承認が必要か。
• データフロー： どのようなユーザー情報、ウォレットアドレス、取引情報が、AIモデルまたは第三者のサービス事業者に送信されるか。
• インシデント対応： 有害な出力やセキュリティ侵害を、どのように検知・封じ込めし、関係者へ通知するか。
• ユーザーへの影響： 誤りによって資産の損失、サービスからの排除、機密情報の漏えいが生じる可能性はあるか。

これらは実務的なガバナンス上の検討事項であり、確定済みの中国法上の要件を示すものではない。AIリスクを特定・管理するためのより包括的なアプローチとしては、NISTのAIリスクマネジメントフレームワークが参考になる。

規制サンドボックスが試験の余地を生み出す可能性

規制サンドボックスとは一般に、規制当局が結果を確認できる環境で、企業が定められた範囲内に限って製品を試験できる仕組みを指す。11月3日に示された方針では、申請、試験、利用、終了の各段階に対応する仕組みを整えたうえで、業界横断的にサンドボックスを設置する可能性が示されている。また、規則を継続的に見直し、必要に応じて調整することも想定されている。

ブロックチェーン開発者にとっては、AIを活用したセキュリティツールを本格導入する前に、管理された環境で検証できる可能性がある。参加者数、取引額、システム権限などに上限を設ければ、多数のユーザーをリスクにさらすことなく、問題を発見しやすくなるだろう。

ただし、規制サンドボックスへの参加は、暗号資産サービスの提供を包括的に認めるものではない。プロジェクトが参加できるかどうかは、対象となる制度、その規則、試験する事業活動の内容によって決まる。企業は、AIに関する要件と、自社の法域でデジタル資産や金融サービスを規律するルールとを分けて検討する必要がある。

合理的な移行期間が設けられれば、対象となる組織には新たな制度へ適応するための時間が与えられる。その期間や実務上の影響は、最終的な規則の内容次第となる。

AIエージェントの普及で取引内容の確認がさらに重要に

暗号資産ユーザーにとって特に重要な問題の一つは、AIシステムにどこまで権限を与えるかという点だ。AIアシスタントは、コントラクトの要約や取引内容の説明には役立つが、その説明だけで取引の安全性が保証されるわけではない。

AIが提案した取引を承認する前に、ユーザーは次の点を自ら確認する必要がある。

1. 送信先アドレスとネットワーク。 どれほど説得力のある説明が示されても、資金が誤った送信先へ送られるリスクはなくならない。
2. 資産の種類と数量。 ウォレットから何がどれだけ移動するのか、手数料が妥当かを確認する。
3. コントラクトの権限。 トークンの承認内容を慎重に確認し、特に、コントラクトが後から資産を使用できる権限には注意する。
4. 依頼元。 ディープフェイク動画、複製された音声、巧妙なチャットメッセージによって、なりすましを見抜くことが難しくなる場合がある。
5. 機密情報。 リカバリーフレーズや秘密鍵は、AIアシスタント、サポートチャット、ウェブサイトのいずれにも決して入力してはならない。

OneKeyのようなハードウェアウォレットを利用すれば、秘密鍵をインターネット接続端末から切り離して保管しながら、取引内容を確認して承認できる。ただし、すべての取引が正当かどうかを判別したり、ユーザーが悪意ある要求を承認すること自体を防いだりできるわけではない。そのため、慎重な確認は引き続き不可欠だ。

今後注目すべき点

中国が進めるAIライフサイクル法制化の動きは、イノベーションを促進しながら、AIシステムが導入後にもたらし得る損害にも対処するガバナンスモデルを志向している。ブロックチェーン関連企業が当面取り組むべきことは、AIをどこで使用しているか、AIが何にアクセスできるか、インシデント発生時にどう対応するかを整理することだ。

今後の重要な焦点は、法案の適用範囲、報告義務の有無と内容、移行期間の長さ、個々の規制サンドボックスの設計にある。これらが公表されるまでは、企業は今回示された方針を準備開始のシグナルとして受け止めるべきであり、確定した規則の代わりと見なすべきではない。