中国推进人工智能全生命周期立法,拟引入风险报告与监管沙盒机制
中国推进人工智能全生命周期立法,拟引入风险报告与监管沙盒机制
中国正着手构建更广泛的人工智能治理框架,这可能会对将人工智能与区块链技术相结合的企业产生影响。国家发展和改革委员会于11月3日提出的政策方向,拟将监管范围扩展至人工智能的整个生命周期——从数据和算力资源,到算法和实际应用。
政策将鼓励开发者和运营者及时披露安全风险,并主动报告事故和漏洞。与此同时,政策制定者还设想设置过渡期和监管沙盒,让企业能够在受控条件下测试新技术。
对于加密货币企业而言,明确区分这一点非常重要:已公布的措施是一项政策方向,而非一套已经最终确定的义务。企业应持续关注相关立法最终的适用范围、实施时间表,以及其与现有加密货币相关活动限制之间的衔接。
人工智能全生命周期监管可能意味着什么
拟议方案不会只关注模型的输出,而是会考虑整个开发和部署过程中的风险。这可能包括训练数据的获取方式、系统的测试方式、产品发布后可能出现的情况,以及运营者在发生问题时如何应对。
中国已经对部分人工智能服务实施监管。自2023年起施行的生成式人工智能服务暂行办法,适用于在中国境内向公众提供生成内容服务且符合相关条件的服务。更广泛的法律可能会在这一框架的基础上增加新的规定,但现有措施与未来立法之间的具体关系仍有待明确。
对于区块链团队而言,人工智能可能被应用于产品的多个环节,例如客服助手、交易监控工具、智能合约分析服务或自动化交易界面。每种应用都会带来不同的风险。例如,用于解释交易的聊天机器人可能会泄露用户的敏感数据,而能够发起交易的人工智能代理则可能导致难以撤销的错误。
这一政策方向关注的也不只是技术安全。被列为重点关注的领域还包括就业冲击、用户对人工智能的依赖、深度伪造、算法歧视和隐私泄露。这些问题可能与使用人工智能决定账户访问权限、生成金融内容或以对话方式与用户互动的加密货币平台密切相关。
风险披露为何对加密货币产品至关重要
对于处理数字资产的产品而言,对事故和漏洞报告的重视尤其具有现实意义。人工智能系统出现故障时,后果可能不只是给出错误答案:它还可能误读合约、推荐恶意地址,或诱导用户批准不安全的交易。
团队在评估自身风险敞口时,可以先记录以下事项:
- 系统边界: 哪些决定由人工智能作出,哪些决定需要人工审批?
- 数据流: 哪些用户信息、钱包地址或交易详情会被发送给模型或第三方服务提供商?
- 事件响应: 团队将如何识别、控制并通报有害输出或安全漏洞?
- 用户影响: 错误是否可能导致资产损失、用户被排除在某项服务之外,或敏感信息泄露?
这些都是实际的治理问题,并不代表中国已经最终确定的法律要求。如需了解更广泛的人工智能风险识别与管理方法,可参考NIST人工智能风险管理框架。
监管沙盒或可为测试提供空间
监管沙盒通常允许企业在明确的限制条件下试运行产品,同时由监管机构观察测试结果。根据11月3日提出的方案,可在多个行业建立监管沙盒,并设置申请、测试、使用和退出机制。相关规则也可以随着时间推移进行审查和调整。
对于区块链开发者而言,在更广泛部署之前,开展受控测试可能有助于评估 AI 辅助安全工具。限制参与者数量、交易金额或系统权限,可以更容易地发现故障,同时避免让大量用户面临风险。
然而,沙盒并不意味着可以不受限制地提供加密货币服务。项目能否参与,将取决于适用的具体计划、相关规则以及所测试的活动。企业应将 AI 相关要求与其所在司法管辖区针对数字资产和金融服务的监管规定分开评估。
合理的过渡期也可以为受影响的组织提供适应时间。过渡期的长短及其实际影响,将取决于最终规则。
AI 代理使交易审核变得更加重要
对于加密货币用户而言,最关键的问题之一是应赋予 AI 系统多大的权限。AI 助手可以帮助总结合约内容或解释交易,但它给出的解释并不能证明相关操作是安全的。
在批准 AI 建议的交易之前,用户应独立核查:
- 目标地址和网络。 即使解释听起来令人信服,也无法避免资金被发送到错误地址。
- 资产和金额。 确认将从钱包转出的资产及其数量,并检查费用是否合理。
- 合约权限。 仔细检查代币授权,尤其是允许合约日后支配资产的权限。
- 请求的来源。 深度伪造视频、克隆声音以及极具说服力的聊天消息,可能会让冒充行为更难被识破。
- 敏感信息。 切勿向 AI 助手、客服聊天窗口或网站提供助记词或私钥。
OneKey 等硬件钱包可以帮助将私钥与联网设备隔离,同时允许用户审核并授权交易。但它无法判断每笔交易是否合法,也无法阻止用户批准恶意请求,因此谨慎核验仍然至关重要。
后续关注重点
中国推动制定覆盖 AI 全生命周期的立法,表明其治理模式将同时考虑创新,以及 AI 系统部署后可能造成的危害。对于区块链企业而言,当前首要任务是梳理 AI 的使用环节、AI 可以访问的内容,以及发生事件时的应对方式。
接下来需要重点关注的细节包括法律草案的适用范围、相关报告要求、过渡期的时长,以及各类沙盒的具体设计。在这些内容正式公布之前,企业应将已公布的政策方向视为着手准备的信号,而不能将其当作最终规则的替代品。



