字节跳动 Seed 设立独立 AI 安全部门：严林向吴永辉汇报，重点关注 Agent 越权问题

据报道，字节跳动 Seed 决定成立独立的模型对齐与准备（Model-Alignment & Preparedness）部门，这不仅是一次内部 AI 治理调整。对于加密行业而言，它凸显了一个在 2025 年变得愈发紧迫的问题：当 AI Agent 不再只是回答问题，而是开始调用工具、执行工作流，并可能与链上资产交互时，会发生什么？

根据近期行业报道，Seed 新部门将由严林负责。严林此前负责豆包大模型的对齐工作，并将直接向 Seed 负责人吴永辉汇报。原 Responsible AI 团队成员以及部分 Chat 团队成员预计将并入这一新架构。据称，该部门职责包括模型规范、安全评估、对齐训练、防护机制、风险监控，以及与外部研究机构和第三方评估机构合作。

核心信息很明确：随着 AI 模型获得更强的推理能力和工具使用能力，安全问题不能再局限于防止聊天机器人给出不当回复。更棘手的问题是，如何确保自主 Agent 不会超出用户授权范围。

为什么 AI Agent 安全对加密用户很重要

区块链行业是自主软件能够执行不可逆操作的最早环境之一。传统 Web 应用中的误操作，或许可以由客服支持进行撤销。但区块链交易一旦确认，通常就是最终状态。

这使得 AI Agent 对齐与加密领域尤其相关。一个能够总结市场数据的 Agent 风险相对较低。而一个能够连接钱包、准备交易、批准代币授权、跨链转移资产、领取奖励，或与 DeFi 协议交互的 Agent，则处于风险高得多的环境中。

这就是「聊天安全」与「Agent 安全」之间区别重要的原因。在加密领域，危险不仅在于模型给出了错误答案，更在于模型执行了用户并未意图执行的操作。

例如：

• 签署了一笔权限范围超出请求的交易
• 向恶意合约批准无限代币授权
• 与伪装成合法 dApp 的钓鱼网站交互
• 在未获得用户明确同意的情况下跨链转移资金
• 基于被操纵的数据或提示注入执行策略
• 调用会暴露私人信息或投资组合详情的外部工具

随着 AI Agent 在交易、投资组合管理、智能合约分析和链上操作中的兴起，行业需要一种比「这个助手看起来很有帮助」更强的安全模型。

从模型对齐到交易对齐

AI 对齐通常指让模型行为与人类意图、安全规则和政策约束保持一致。在加密领域，这一理念需要扩展为可称作「交易对齐」的概念：AI 提议的链上操作必须与用户的明确授权相匹配。

这需要的不只是自然语言确认。用户可能会说：「帮我质押这个资产」，但交易中可能包含多个隐藏步骤、代币授权、合约调用或跨链操作。如果由 AI Agent 准备这些操作，用户仍然需要一种可靠方式来验证自己实际签署的内容。

这正是硬件钱包依然重要的原因。安全签名设备可以在 AI 驱动的建议与用户批准的执行之间建立隔离。例如，OneKey 围绕自托管和交易确认而设计，帮助用户在资金转移前审查签名请求，同时让私钥保持离线。在 AI Agent 时代，这种隔离会变得更加有价值。

原则很简单：AI 可以提供协助，但不应成为私钥的最终决策者。

工具使用是新的安全边界

现代 AI 系统越来越依赖工具调用。它们可能访问浏览器、API、数据库、代码执行环境、交易界面或与钱包相关的服务。这种架构让 AI 更有用，但也带来了新的攻击面。

安全社区已经识别出提示注入、不安全的工具设计、数据泄露以及过度代理性等风险。OWASP 大型语言模型应用十大风险为理解这些威胁提供了有用框架，其中包括恶意指令如何被隐藏在网页、文档或外部数据源中。

对于加密货币用户而言，提示注入可能带来金融层面的危险。想象一下，一个 AI 代理正在读取某个网页，而该网页包含隐藏指令，诱导它推荐一个恶意合约。或者，一个代理在分析某个代币页面时，被操纵生成一笔有利于攻击者的交易。

关键问题并不在于模型是否智能，而在于模型是否被授权采取行动、它可以访问哪些工具，以及它的行为如何受到约束。

为什么独立的 AI 安全团队正变得具有战略意义

据报道，Seed 将安全与对齐工作拆分为独立部门，这反映了更广泛的行业趋势。AI 安全正从研究议题转变为运营要求。

对于构建通用模型的公司来说，挑战已不再只是提升基准测试分数。它们需要证明，能力更强的系统在真实世界条件下仍然可控。这包括评估危险能力、监测滥用行为，并在部署前施加更严格的控制。

NIST AI 风险管理框架强调对 AI 风险进行治理、映射、衡量和管理。这些概念与区块链应用日益相关，因为 AI 系统可能会与智能合约、市场基础设施和数字资产发生交互。

外部评估同样重要。当模型提供商评估自己的系统时，内部激励可能会使流程偏向速度和产品发布。第三方测试可以建立更可信的安全基线，尤其是对于可能被整合进金融工作流的系统而言。

CBRN 提法释放出更广泛的准备意识信号

据报道，其对 CBRN 风险——化学、生物、放射性和核领域——的关注，或许看起来与加密货币相距甚远。然而，这表明领先的 AI 实验室正在思考高影响力滥用问题，而不仅仅是常规内容审核。

对于区块链而言，同样的准备意识应当应用于金融滥用和基础设施滥用。AI 代理可以通过帮助攻击者撰写钓鱼信息、分析智能合约弱点、自动化诈骗活动，或识别可被利用的用户行为，来降低攻击者所需的技能门槛。

这并不意味着应当拒绝 AI。它意味着用于加密领域的 AI 系统应当以严格边界进行设计：

• 不暴露私钥
• 不自动签名
• 不隐藏执行交易
• 默认不进行无限代币授权
• 不盲目信任第三方数据
• 不允许不受管理地访问钱包 API
• 清晰记录代理的决策和工具调用

随着 AI 模型变得更强，安全必须变得更加明确，而不是更加隐性。

2025 年：AI 代理遇上账户抽象、DeFi 与链上自动化

这场讨论的时机很重要。2025 年，加密货币用户正更加关注账户抽象、基于意图的交易、自动化交易代理以及 AI 辅助的 DeFi 界面。

账户抽象可以让钱包更具可编程性，也更便于用户使用。以太坊的账户抽象路线图解释了智能合约账户如何实现新的交易模型，包括更灵活的授权和恢复设计。这些改进可以让用户受益，但也会使权限设计变得更加复杂。

基于意图的系统创造了另一层抽象。用户不必手动指定每一步交易操作，而是可以表达一个结果：「以最佳价格兑换这项资产」、「重新平衡我的投资组合」，或「将资金转移到手续费更低的网络」。AI 代理天然适合这种模式，因为它们可以理解目标并协调行动。

但抽象也可能掩盖风险。如果用户不了解底层正在发生什么，恶意或目标不一致的代理就可能利用这一认知缺口。因此，行业必须将更好的用户体验与更强的验证机制结合起来。

未来不应是「AI 做一切，用户只能希望它是安全的」。而应是「AI 提出方案，安全系统施加约束，用户进行授权」。

给加密产品构建者的实践经验

对于正在构建 AI 赋能加密产品的团队来说，Seed 据报道进行的重组提供了几条有用经验。

1. 将产品增长与安全治理分离

AI 安全不应被视为最后一刻才检查的清单。如果产品团队只因用户增长而获得奖励，就可能低估低频但高影响的风险。专门的安全职能可以在用户暴露于风险之前，对各种假设提出挑战。

2. 明确定义代理不允许做什么

清晰的模型规范至关重要。AI 代理应有明确限制：它可以调用哪些工具、可以与哪些合约交互、哪些交易金额需要额外确认，以及哪些操作被禁止。

3. 让授权可被机器读取

自然语言同意是不够的。加密应用应将用户权限转换为可通过程序执行的结构化规则。例如，可以允许代理模拟交易但不能提交交易，或允许其准备低于某一价值的兑换，但不能批准代币授权。

4. 签名前先进行模拟

交易模拟有助于用户在执行前了解潜在结果。当 AI 代理生成多步骤操作，或与不熟悉的智能合约交互时，这一点尤其重要。

5. 保持签名隔离

AI 系统不应控制私钥。将签名与 AI 决策分离，可以在模型被操纵、遭入侵或只是判断错误时，降低影响范围。

用户应关注什么

评估 AI 驱动工具的加密用户应直接提出以下问题：

• AI 能发起交易，还是只能解释交易？
• 该工具是否在必要之前就请求连接钱包？
• 代币授权是有限的还是无限的？
• 是否有交易模拟？
• AI 能否访问投资组合数据、浏览历史或个人文件？
• 工具调用对用户是否可见？
• 签名是否在单独的安全设备上完成？

如果这些问题的答案不清楚，用户就应保持谨慎。便利不应以放弃对资产的控制权为代价。

AI 与加密的更安全路径

据报道，字节跳动 Seed 创建了专门的 AI 安全与对齐部门，这反映出科技行业更广泛的转变：强大的模型需要专门治理、持续评估，以及围绕工具使用的更强保障措施。

对加密行业而言，风险尤其高，因为 AI 代理可能很快就在钱包、智能合约、交易所、跨链桥和 DeFi 协议附近运行。行业应欢迎 AI 辅助，但前提是具备清晰的授权边界和安全的签名实践。

OneKey 在这一环境中的角色很明确：让私钥始终处于用户控制之下，并将资产托管与 AI 驱动的决策分离。随着 AI 代理能力越来越强，这种分离可能会成为普通加密用户最重要的安全原则之一。