アルトマン対アモデイ：超知能の時代、人間は主導権を握れるのか、それとも「ペット」として飼われるのか？

人工知能が、経済的価値を持つほぼすべての仕事で人間を上回るようになったら、何が起きるのでしょうか。その答えを左右するのは、AIがどれほどの富を生み出せるかだけではありません。その恩恵へのアクセスを誰が支配するのかも、重要な要素です。

OpenAIのCEOであるサム・アルトマンは、たとえ超知能AIの開発を制限することになったとしても、人間は自らの未来を決める権限を手放すべきではないと主張しています。彼が警戒しているのは、AIシステムが人間の行動を評価し、その評価に基づいて人々が受け取る報酬を決める社会です。

アルトマンが異議を唱えた構想は、AnthropicのCEOであるダリオ・アモデイが2024年に発表したエッセイに登場します。ただし、両者の意見の相違を理解するには、文脈を踏まえる必要があります。アモデイは、AIによる富の分配を、確定した提案ではなく、想定しうる経済の仕組みの一つとして提示したにすぎません。また、そのような仕組みが搾取やディストピア的な結末を招きかねないことも認めています。

暗号資産ユーザーにとって、この議論は現実的な問いにつながります。知的システムが経済の中核を担うようになったとき、人々はそのシステムの許可を得ることなく、引き続き自分の資産を保有し、移動させ、利用できるのでしょうか？

AIをめぐる議論の根底にある経済問題

アモデイは、Machines of Loving Graceの中で、AIが大半の仕事を人間よりも効率よく、低コストでこなす未来について考察しています。それが現実になれば、経済活動が生み出す恩恵を分配する手段として、賃金はもはや十分に機能しなくなるかもしれません。

その対応策の一つが、ユニバーサル・ベーシックインカムです。これは、有給の仕事に就いているかどうかにかかわらず、すべての人に生活に必要な資源を支給する仕組みです。もう一つの、より懸念すべき可能性として、どのような人間の活動を支援する価値があるかという評価に基づき、AIが生み出した富を分配する仕組みも考えられます。

両者の違いは重大です。誰もが理解でき、異議を申し立てられるルールに基づいて資源を保障する制度と、不透明な行動評価によって資源へのアクセスを決める制度は、同じではありません。

アルトマンが問題視しているのは、まさにこの主体性の喪失です。問われているのは、AIシステムが人々に物質的な豊かさを提供できるかどうかだけではありません。人々が、自らの人生を形づくる選択や制度、資源に対して、実質的な決定権を持ち続けられるかどうかです。

AI主導の経済で所有権が重要になる理由

AIエージェントが高度化し、調査や購入、業務フローの管理まで担うようになれば、金融活動でもより大きな役割を果たすようになるでしょう。たとえば企業は、クラウドコンピューティングの利用料金を支払う権限をエージェントに与えるかもしれません。個人も、日常的な取引の管理をAIエージェントに任せるようになる可能性があります。

こうした利便性を考えるうえでは、次の区別が重要です。AIエージェントは、ユーザーの資産を所有したり、無制限の権限を握ったりしなくても、ユーザーの代理として行動できます。

暗号資産ウォレットやスマートコントラクトを利用すれば、この区別をコードとして明確に表現できます。

• ユーザーは、資産をサービス事業者に全面的に預けるのではなく、自ら管理するアカウントで保有できます。
• アプリケーションは資産を操作するための許可を求められます。ただし、その許可によって何が可能になるのかは、ユーザー自身が確認しなければなりません。
• スマートコントラクトを使えば、利用上限や複数人による承認など、あらかじめ定めた条件を強制できます。
• パブリックブロックチェーンでは、特定の取引やルールを第三者が独立して確認できます。

もっとも、こうした機能が公正な結果を保証するわけではありません。それでも、支援する権限と支配する権限を切り分けるための手段にはなります。ソフトウェアが機械的な速度で意思決定を行う時代において、これは重要な原則です。

AIエージェントに必要なのは、無制限のアクセスではなく限定的な権限

AIエージェントに暗号資産を扱わせるには、取引を開始する権限が必要になる場合があります。しかし、制限のない秘密鍵へのアクセスを与えてしまうと、エージェントが侵害されたり、操作されたり、単にミスを犯したりしただけで、ウォレット内のすべての資産が危険にさらされかねません。

より安全な設計は、エージェントに許可する操作を制限することから始まります。ウォレットやインフラの仕様によって異なりますが、たとえば次のような方法があります。

1. 特定の期間や作業ごとに利用上限を設定する。
2. 送金先を、承認済みのアドレスやコントラクトに限定する。
3. 高額または通常と異なる取引には、人間による承認を必須とする。
4. エージェント用の資金を分離し、長期保有資産と同じ場所に置かない。
5. エージェントやアプリケーションを信頼できなくなった時点で、権限を取り消す。

アカウント抽象化は、Ethereumで進められている開発分野の一つで、アカウントの挙動をより柔軟に設定できる可能性があります。ERC-4337規格では、検証ロジックをカスタマイズできるスマートコントラクトアカウントの仕組みが提案されています。このような設計により、開発者は用途に応じた認可フローを構築しやすくなります。ただし、実際に利用できる保護機能は、ウォレットの実装や、ユーザーが有効にしたルールによって異なります。

あらゆる危険を防げる万能の安全装置は存在しません。利用上限も、適切に設定されて初めて意味を持ちます。また、悪意あるコントラクトや侵害されたインターフェースによって、ユーザーが危険な権限を付与するよう誘導される可能性も残ります。

透明性には価値があるが、それは支配権と同じではない

ブロックチェーン技術は、中央集権的な権力に対する自動的な解決策であるかのように語られることがあります。しかし、現実はそれほど単純ではありません。

取引がオンチェーンで公開されていても、その取引に至った判断までは見えないことがあります。AIシステムが独自モデルや非公開データ、開示されていない基準を使って、誰に支払いを行うか決めているかもしれません。その支払いを公開台帳に記録したところで、判断そのものが妥当だったかどうかは分かりません。

同様に、スマートコントラクトが一貫してルールを実行できたとしても、そのルールが公正だとは限りません。少数の集団がコントラクトを変更できたり、判断に使われるデータを支配できたり、主要なインターフェースを通じてアクセスを遮断できたりするなら、ユーザーの自律性はオンチェーンの記録から受ける印象よりも弱い可能性があります。

AIと連携する金融システムについては、次のような問いを検討する必要があります。

• 誰がルールを変更できるのか？
• どのようなデータが判断に影響するのか？
• ユーザーは結果を理解し、異議を申し立てられるのか？
• 資産を引き出したり、別のサービス事業者に切り替えたりできるのか？
• AIシステムやその運営者に障害が発生した場合、何が起きるのか？

こうした問いは、取引速度や自動化と同じくらい重要です。人間が主導権を保つには、技術的にアクセスできるだけでは不十分です。そのアクセスを実質的なものにする制度も必要になります。

セルフカストディが果たす役割

セルフカストディでは、取引を承認する鍵をユーザー自身が直接管理し、その責任も負います。自動化サービスが経済活動を仲介する場面が増えるなか、これは重要な境界線になります。AIアシスタントが何らかの行動を提案しても、最終的に署名するかどうかを決める権限は、資産の所有者に残されるからです。

OneKeyのようなハードウェアウォレットは、秘密鍵を専用デバイス内に保管し、ウォレットの署名手順を通じて取引の承認を求めることで、こうした役割分担を支援できます。ただし、AIの提案が妥当かどうかをウォレットが判断してくれるわけではありません。また、ユーザーが欺かれた末に悪意ある取引を承認してしまえば、それを防ぐこともできません。取引内容を確認し、リカバリー情報を安全に管理する責任は、依然としてユーザーにあります。

AIエージェントを日常的に試す場合は、少額の資金だけを別のウォレットに入れ、長期保有資産については、より慎重な承認手続きを経るようにすると、リスクを抑えられます。最適な構成は、扱う資産やアプリケーション、想定されるリスクによって異なります。

目指すべきは、豊かさだけでなく主体性

アルトマンとアモデイの議論は、AIを歓迎するか拒絶するかという単純な二者択一ではありません。AIがもたらす経済的な可能性とリスクの両方を、真剣に検討する必要があります。より難しいのは、機械の能力向上によって人間の選択肢を広げ、気づかないうちに人間の意思決定を置き換えてしまわないようにするにはどうすればよいか、という問いです。

暗号資産だけで、この問題を解決することはできません。しかし、所有権、持ち運び可能な資産、明示的な承認を重視する暗号資産の思想は、AIを人間の資源利用を最終的に支配する存在ではなく、あくまで道具として機能させるシステムの設計に貢献できるでしょう。