奥尔特曼 vs. 阿莫迪：在超级智能时代，人类将掌握控制权，还是被当作宠物圈养？
奥尔特曼 vs. 阿莫迪：在超级智能时代，人类将掌握控制权，还是被当作宠物圈养？
如果人工智能在几乎所有具有经济价值的任务上都胜过人类，会发生什么？答案不仅取决于 AI 能创造多少财富，也取决于谁控制着获取这些财富的渠道。
OpenAI 首席执行官萨姆·奥尔特曼主张，人类应当保留对自身未来的控制权，即使这意味着要限制超级智能 AI 的发展。他的警告针对一种特定的可能性：在这样的社会中，AI 系统会评判人类行为，并决定人们可以获得哪些回报。
他所质疑的观点出自 Anthropic 首席执行官达里奥·阿莫迪 2024 年发表的一篇文章。但两人表面上的分歧需要结合具体语境来看。阿莫迪将由 AI 主导的分配方式视为一种可能的经济安排，而非已经确定的主张，并承认这种安排可能导致剥削或反乌托邦式的结果。
对加密货币用户而言，这场争论提出了一个现实问题：如果智能系统成为经济活动的核心，人们是否仍能在无需征得这些系统许可的情况下拥有、转移和使用自己的资产？
AI 争论背后的经济问题
在 《充满慈爱的机器》一文中，阿莫迪设想了这样一个未来：AI 能够比人类更高效、更低成本地完成大部分工作。如果这种情况成为现实，工资可能不再是分配经济生产成果的可靠方式。
一种可能的应对方案是全民基本收入：无论人们是否拥有有偿工作，都可以获得一定资源。另一种更令人担忧的可能性是，由 AI 创造的财富会根据系统对哪些人类活动值得支持的评估结果进行分配。
二者之间存在重大区别。按照人们能够理解并提出质疑的规则来保障其获得资源的制度，与根据不透明的行为评估结果决定人们是否有资格获取资源的制度，并不是一回事。
奥尔特曼反对的重点正是这种自主权的丧失。问题并不只是 AI 系统能否为人们提供物质上的富足与舒适，而是人们能否继续对塑造其生活的选择、制度和资源拥有实质性的决定权。
为什么所有权在 AI 驱动的经济中至关重要
随着 AI 智能体在开展研究、执行采购和管理工作流程方面变得越来越强大，它们也可能在金融活动中承担更重要的角色。例如，企业可以授权智能体支付云计算费用，个人也可以借助智能体管理日常交易。
这种便利带来了一个重要区分：AI 智能体可以代表用户行动，但并不需要拥有用户的资产，也不应对这些资产拥有不受限制的支配权。
加密货币钱包和智能合约提供了将这种区分写入代码的方式：
- 用户可以将资产保存在自己控制的账户中，而不是完全交由服务提供商保管。
- 应用程序可以请求与资产交互的权限，但用户仍须判断这些权限具体允许应用执行哪些操作。
- 智能合约可以强制执行预先设定的条件，例如支出限额或多重审批。
- 公共区块链可以让特定交易和规则得到独立验证与观察。
这些功能都不能保证结果一定公平。不过，它们可以为用户提供将「辅助」与「权力」分离的工具——当软件以机器速度作出决策时，这是一项非常实用的原则。
AI 智能体需要的是有限权限，而非无限访问权
为了让 AI 智能体能够在加密货币领域发挥作用，它可能需要发起交易的能力。然而，如果将不受限制的私钥访问权交给智能体，一旦智能体遭到入侵、操纵，或只是单纯犯错，整个钱包都可能面临风险。
更安全的设计应从限制智能体可以执行的操作入手。根据钱包和基础设施的不同，可以采取以下措施：
- 设置支出上限，限定特定时间段或任务中的支出金额。
- 限制交易目标，只允许向获批地址或合约进行交易。
- 要求人工批准金额较大或行为异常的交易。
- 将智能体可用资金与长期持有的资产分开存放。
- 当不再信任某个智能体或应用程序时，撤销其权限。
账户抽象是以太坊开发中的一个方向，可以支持更加灵活的账户行为。ERC-4337 标准描述了一种采用可自定义验证逻辑的智能合约账户方案。这类设计可以帮助开发者构建更有针对性的授权流程，但实际能够提供哪些保护，取决于钱包的具体实现方式以及用户真正启用了哪些规则。
不存在适用于所有情况的通用安全开关。支出限额能否发挥作用，取决于其配置是否合理；恶意合约或遭入侵的界面仍可能误导用户授予危险权限。
透明度很有价值，但并不等同于控制权
区块链技术有时被描述为解决权力中心化问题的万能答案，但现实要复杂得多。
一笔交易可能在链上公开可见，但促成这笔交易的决策过程仍然可能不透明。AI 系统可能依据专有模型、私有数据或未公开的标准，决定谁可以获得付款。将这笔付款记录在公共账本上，并不能说明这一决定是否合理。
同样，智能合约可以始终如一地执行规则，但这并不意味着规则本身是公平的。如果少数人能够修改合约、控制合约所依赖的数据，或通过占主导地位的交互界面阻止用户访问，那么用户实际拥有的自主权可能远少于链上记录所呈现的程度。
对于任何与 AI 相关联的金融系统，都应考虑以下重要问题：
- 谁有权更改规则？
- 哪些数据会影响决策？
- 用户能否理解并质疑某项结果？
- 人们能否提取自己的资产或更换服务提供商？
- 如果 AI 系统或其运营方发生故障，会出现什么情况？
这些问题与交易速度或自动化程度同样重要。要实现人类控制，既需要技术层面的访问权，也需要能够让这种访问权真正发挥作用的制度。
自托管在其中扮演什么角色
自托管意味着用户需要直接负责保管用于授权交易的密钥。在日益由自动化服务介入和协调的经济中，这可以划出一道重要边界：AI 助手可以提出操作建议，但资产所有者仍保留是否签署交易的决定权。
OneKey 等硬件钱包可以将私钥保存在专用设备中，并要求用户通过钱包的签名流程批准交易，从而帮助维持这种权力分离。它无法判断 AI 提出的建议是否可靠，也无法保护因受骗而批准恶意交易的用户。用户仍需核实交易详情，并妥善保护自己的恢复信息。
在日常尝试使用 AI 智能体时，可以仅在单独的钱包中存放少量资金，并将长期持有的资产留待更加审慎的审批流程处理，从而降低风险敞口。合适的配置取决于所涉及的资产、应用程序和具体风险。
目标是自主权，而不只是物质富足
奥尔特曼与阿莫迪之间的争论，并不是一道在「欢迎 AI」与「拒绝 AI」之间二选一的简单选择题。AI 带来的经济前景与潜在风险都值得认真对待。更棘手的问题在于，如何确保不断增强的机器能力能够拓展人类的选择，而不是悄然取代人类的选择权。
加密货币无法独自解决这个问题。但它对所有权、资产可携带性和明确授权的重视，可以为相关系统的设计提供助力，让 AI 成为一种工具，而不是决定人们能否支配自身资源的最终权威。
