Anthropic推出新的安全措施：Claude在每次回答后审查聊天内容
Anthropic推出新的安全措施：Claude在每次回答后审查聊天内容
Anthropic披露了一项新的AI安全机制，可能会对加密货币行业产生重要影响。
从6月开始，Claude在生成回答后会进行额外的「自我评估」。在这一隐藏的回答后步骤中，模型会审查刚刚处理过的对话，并判断其中是否可能涉及欺诈、网络攻击或其他高风险活动等滥用行为。
由于这项审查，回答不会被自动拦截，用户也无法看到评估结果。相反，该机制主要用于监控、调查以及账户层面的处置。
对于越来越依赖AI代理的加密货币用户、开发者和企业而言，这一变化提出了一个更广泛的问题：AI系统能否在事后识别恶意意图？当自动化工具参与其中时，人们又该如何保护资产？
Claude的自我评估究竟会做什么
传统的AI安全系统通常依赖独立的分类器。这些工具会检查提示词和输出内容，寻找与被禁止或危险活动相关的信号。
Anthropic的新方法赋予Claude第二项职责。在完成回答后，模型会利用刚刚分析过的上下文，评估这次互动是否可能表明存在滥用行为，然后为该对话分配一个风险等级。
根据披露的信息，这一额外功能带来的成本相对较低。Claude平均会为评估额外生成约10个词元，而新增的推理需求占总推理计算量的比例不到2%。
这种设计不同于实时内容过滤。系统可能会识别出可疑行为，却不会阻止原始回答。这一区别对于加密货币领域尤为重要，因为AI生成的回答可能会被立即用于创建钱包、部署代码、转移资金，或联系潜在受害者。
Anthropic对AI安全的整体方法，详见其公开安全资料；而NIST人工智能风险管理框架则提供了一个有用的行业参考，可用于理解风险识别、监控和应对。
为什么这对加密货币和区块链很重要
加密货币行业具有若干特点，使得回答后AI监控尤其值得关注：
- 交易通常无法撤销。
- 公开的区块链地址可能只是化名地址，而非能够直接识别身份的地址。
- 智能合约一旦部署，便可自动转移资产。
- 社会工程攻击仍然是最有效的攻击方式之一。
- AI编程工具既能加快合法开发，也能加速恶意操作。
诈骗者未必需要AI模型生成明显带有犯罪性质的回答。他们可能会请求帮助编写客服话术、钱包找回页面、代币营销文案、自动化推广信息，或进行代码调试。恶意意图可能只有在多次看似普通的互动之后才会显现出来。
因此，相比孤立地判断单条提示词，针对整个对话进行分析更有价值。单独来看，撰写一条专业信息的请求似乎并无害处。但如果同时还要求冒充交易平台、施压受害者转移加密货币，并自动发送后续消息，那么整体模式就会显得更加令人担忧。
早期检测结果包括与加密货币相关的滥用行为
Anthropic表示，自我评估系统识别出了一些传统安全措施未能发现的案例。
据报道，8月，一名API客户生成了超过10万条与儿童性剥削相关的风险警报。Anthropic表示，已将此案报告给美国相关部门。
9月，该系统检测到一项行动：据称有人利用Claude Code实现自动化恋爱诈骗，目标涉及数十名受害者。Anthropic对此展开调查，并封禁了相关账户。
这些示例表明，AI 服务提供商可以通过生成后监控，识别出在单条回复生成时可能并不明显的行为。
这些示例也凸显了数字资产用户日益面临的一项担忧。恋爱诈骗、投资欺诈和冒充客服的骗局经常使用加密货币，因为转账可以快速跨境完成，而且可能难以撤回。美国联邦贸易委员会关于加密货币诈骗的消费者指南介绍了几种常见模式，包括冒充他人、承诺保证收益，以及要求紧急付款。
检测不等于预防
Anthropic 的研究结果也显示了自我评估的局限性。
在一项涉及 24 种网络攻击场景的测试中，研究人员关闭了标准安全防护措施，并尝试让模型通过自我评估进行实时干预。最终，攻击仍在 13 个案例中取得成功。
这一结果十分重要，因为它有助于避免一种常见误解：AI 模型能够在生成回复后识别可疑行为，并不意味着它一定能够在造成损害之前阻止该行为。
对于加密货币应用而言，这种差异可能以秒计。如果 AI 智能体生成恶意智能合约、泄露私钥、批准代币交易，或发送欺骗性消息，那么后续的风险分类或许有助于调查，但无法自动逆转已经造成的后果。
因此，AI 安全监控应被视为更广泛安全架构中的一层，而不是交易控制措施的替代品。
后台审查背后的隐私权衡
一个在回复后审查对话的系统，必须处理更多与用户交互相关的信息。即使其目的是保障安全，这也会引发一些合理的问题：
- 会保留哪些数据？
- 风险评估会存储多长时间？
- 谁可以访问被标记的对话？
- 当系统审查相关活动时，企业客户是否会收到通知？
- 用户能否对自动化执行决定提出申诉？
- 如何处理误报？
对于可能使用 AI 处理钱包地址、交易元数据、事件报告或客户支持对话的加密货币公司而言，这些问题尤为重要。区块链数据通常是公开的，但某个地址与真实个人之间的关联可能涉及敏感信息。将链上活动与私密 AI 对话结合起来，可能会形成更加详尽的行为画像。
因此，将 AI 集成到金融或 Web3 工作流程中的企业，应当审查供应商的政策，尽量减少不必要的个人数据，并将高风险机密信息与通用聊天环境隔离。私钥、助记词、API 凭证、签名权限以及生产环境部署密钥，都不应仅仅因为某个对话式 AI 工具看起来安全，就被输入其中。
使用 AI 和加密货币时，用户应采取哪些措施
AI 辅助开发和自动化智能体的兴起，并不意味着可以忽视基本的运营安全。用户仍应在暴露任何资金或权限之前，持续采取独立的控制措施。
将签名权限与 AI 工具分离
AI 助手可以帮助解释交易或审查代码，但不应拥有私钥的无限制访问权限，也不应拥有不受限制的交易签名权限。
为测试环境和生产环境分别设置独立环境。尽可能限制权限，并要求在进行大额转账、升级合约或修改资金管理基础设施之前，获得明确的人工批准。
独立核验地址和合约详情
绝不要仅依赖 AI 生成的钱包地址、智能合约或交易说明。在签名前，应通过独立界面检查目标地址、网络、代币数量以及授权范围。
攻击者还可能操纵网站、文档和客服渠道。看起来熟悉的消息并不能证明其真实性。
在完成审核前，将 AI 生成的代码视为不可信代码
AI 可以加快智能合约开发，但生成的代码可能包含访问控制错误、不安全假设，或是在快速审核过程中难以发现的漏洞。
对于处理真实资金的合约，测试、代码审查、静态分析和专业安全审计仍然不可或缺。OWASP 智能合约十大风险为区块链应用中反复出现的安全风险提供了有用的概览。
警惕紧迫感和保证收益
AI 生成的消息可能让诈骗更具说服力，也更容易进行个性化伪装。任何要求你转移资金、连接钱包、提供助记词，或在时间压力下进行投资的意外请求，无论沟通内容看起来多么专业，都应被视为可疑。
任何合法的客服人员都不会索要钱包的助记词或私钥。
AI 驱动的 Web3 未来将如何发展
Anthropic 的自我评估机制代表着一种转变：从简单的提示词过滤，转向持续的行为监测。系统不再只判断某一条请求是否违反规则，而是试图评估整个交互过程的发展轨迹。
随着 AI 代理逐渐具备浏览网页、编写代码、与 API 交互以及执行区块链交易的能力，这种方法可能会变得越来越重要。与此同时，当前系统的局限性也十分明显。检测可能漏掉攻击，而响应后的审查也可能发生得太晚，无法阻止资金损失。
对于加密行业而言，最具实践意义的模式是纵深防御：
- AI 服务提供商应改进滥用检测机制并提高透明度。
- 开发者应限制代理权限，并隔离敏感凭证。
- 应用程序应加入交易模拟、地址白名单、速率限制和审批流程。
- 用户应始终掌握签名权限，并核实每一笔重要交易。
- 钱包应在授权前清晰展示高风险操作。
OneKey 硬件钱包正是围绕这一层由用户掌控的签名机制而设计的。将私钥与通用软件隔离，可以降低计算机遭到入侵、应用程序恶意操作或 AI 工作流程权限过大的后果。硬件钱包无法判断 AI 生成的消息是否为诈骗，但它可以帮助确保交易仍然需要由资产控制者进行明确授权。
Anthropic 的实验提醒我们，AI 安全正逐渐从一次性的过滤机制转变为持续性的过程。在自动化与不可逆交易交汇的加密货币领域，最安全的策略不是信任任何单一模型或监测系统，而是将 AI 监督与严格的隐私实践、有限权限、独立验证以及由硬件支持的私钥控制结合起来。
