中國推進 AI 全生命週期立法,風險通報與監管沙盒成為焦點
中國推進 AI 全生命週期立法,風險通報與監管沙盒成為焦點
中國正朝向更全面的人工智慧治理架構邁進,這可能影響結合 AI 與區塊鏈技術的企業。國家發展和改革委員會於 11 月 3 日提出的方向,將把監管延伸至 AI 的整個生命週期,涵蓋資料、算力資源、演算法,以及實際應用。
監管方向鼓勵開發者與營運者及時揭露安全風險,並主動通報事故與漏洞。同時,政策制定者也考慮設置過渡期及監管沙盒,讓企業在受控環境下測試新技術。
對加密貨幣業者而言,這項區別十分重要:目前公布的是政策方向,並非已定案的一系列義務。企業應持續關注立法最終涵蓋範圍、實施時程,以及新法與現行加密貨幣相關活動限制之間的關係。
AI 全生命週期監管可能帶來的影響
這項提議不只著眼於模型的輸出結果,也將考量開發與部署各階段的風險,包括訓練資料如何取得、系統如何測試、產品發布後的情況,以及發生問題時營運者如何應對。
中國目前已對部分 AI 服務實施監管。自 2023 年起生效的生成式人工智慧服務管理暫行辦法,適用於符合條件、在中國境內向公眾提供內容生成服務的業者。未來若制定更全面的法律,可能會在此基礎上增訂規範;不過,現行措施與未來立法之間的確切關係仍有待釐清。
對區塊鏈團隊而言,AI 可能應用在產品的許多環節,例如客服助理、交易監控工具、智慧合約分析服務,或自動化交易介面。不同應用帶來的風險也不相同。舉例來說,用來說明交易內容的聊天機器人可能洩露使用者敏感資料;能夠發起交易的 AI 代理則可能產生難以撤回的錯誤。
這項政策方向也不只關注技術安全。受關注的議題包括就業衝擊、使用者對 AI 的依賴、深偽內容、演算法歧視與隱私外洩。對於運用 AI 判斷帳戶存取權限、生成金融內容,或以對話方式與使用者互動的加密平台而言,這些議題都可能與其業務相關。
為何風險揭露對加密產品至關重要
對事故與漏洞通報的重視,對處理數位資產的產品尤其重要。故障造成的問題可能不只是回答錯誤:AI 系統可能誤判合約、推薦惡意地址,或誘使使用者核准不安全的交易。
評估自身風險的團隊,可以先著手整理以下事項:
- **系統界線:**哪些決策由 AI 作出?哪些決策必須經過人工核准?
- **資料流向:**哪些使用者資訊、錢包地址或交易細節會傳送給模型或第三方服務商?
- **事故應變:**團隊將如何發現、控制並通報有害輸出或資安事件?
- **使用者影響:**錯誤是否可能導致資產損失、無法使用服務,或敏感資訊外洩?
這些屬於實務上的治理問題,並不代表中國已制定最終法律要求。若要參考更全面的 AI 風險識別與管理方法,NIST AI 風險管理框架提供了實用的參考依據。
監管沙盒可為測試創造空間
監管沙盒通常允許企業在明確限制下試行產品,並由監管機關觀察結果。根據 11 月 3 日提出的方向,監管沙盒可能適用於不同產業,並設置申請、測試、使用及退出機制。相關規則也可能隨時間檢討與調整。
對區塊鏈開發者而言,在受控環境中測試 AI 輔助安全工具,有助於在全面部署前評估其表現。限制參與人數、交易金額或系統權限,也能讓團隊更容易找出問題,避免大量使用者受到影響。
不過,參與沙盒並不代表可以不受限制地提供加密貨幣服務。專案是否能參與,取決於適用的計畫、相關規則,以及實際測試的活動。企業應分別評估 AI 相關要求,以及所在地對數位資產與金融服務的監管規定。
合理的過渡期也可能讓受影響的組織有時間調整。至於過渡期有多長、實際效果如何,仍須視最終規則而定。
AI 代理的發展,讓交易審核更顯重要
對加密貨幣使用者而言,最重要的問題之一,是應該授予 AI 系統多少權限。AI 助理可以協助摘要合約或解釋交易,但它的說明並不能證明操作安全無虞。
核准 AI 建議的交易前,使用者應自行確認:
- **收款地址與網路。**即使說明聽起來可信,也無法避免資金被轉到錯誤的地方。
- **資產與金額。**確認將從錢包轉出的資產,以及相關費用是否合理。
- **合約權限。**仔細檢查代幣授權,特別是允許合約日後支用資產的權限。
- **請求來源。**深偽影片、仿冒聲音與具有說服力的聊天訊息,都可能讓冒充身分的手法更難辨識。
- **敏感資訊。**切勿向 AI 助理、客服對話或網站提供助記詞或私鑰。
OneKey 等硬體錢包可協助將私鑰與連網裝置分開,同時讓使用者檢查並授權交易。但硬體錢包無法判斷每筆交易是否都合法,也無法阻止使用者核准惡意請求,因此審慎查證仍不可或缺。
接下來值得關注的事項
中國推進 AI 全生命週期立法,顯示其治理模式將兼顧創新,也考量 AI 系統部署後可能造成的傷害。對區塊鏈企業而言,眼前的首要工作是盤點 AI 的使用環節、可存取的資料與權限,以及事故發生時的處理方式。
接下來的重要資訊包括草案的涵蓋範圍、是否設有通報要求、過渡期長度,以及各項沙盒的設計。在相關內容公布之前,企業應將目前宣布的方向視為準備訊號,而非已定案規則的替代品。



