字節跳動 Seed 成立獨立 AI 安全部門：嚴林向吳永輝匯報，聚焦 Agent 越權風險

據傳字節跳動 Seed 決定成立獨立的模型對齊與準備（Model-Alignment & Preparedness）部門，這不只是一次內部 AI 治理架構的調整。對加密產業而言，它凸顯了一個在 2025 年愈來愈迫切的問題：當 AI Agent 不再只是回答問題，而是開始呼叫工具、執行流程，甚至可能與鏈上資產互動時，會發生什麼事？

根據近期業界報導，這個 Seed 新部門將由嚴林負責。嚴林此前負責豆包大模型的對齊工作，未來將直接向 Seed 負責人吳永輝匯報。原 Responsible AI 團隊成員以及部分 Chat 團隊成員，預計會併入新的組織架構。據報導，該部門的職責涵蓋模型規範、安全評估、對齊訓練、防護機制、風險監控，以及與外部研究機構和第三方評測方合作。

這傳遞出的核心訊息很明確：隨著 AI 模型具備更強的推理能力與工具使用能力，安全問題已不能只停留在避免聊天機器人輸出不當內容。更困難的問題，是如何確保自主型 Agent 不會超出使用者授權範圍。

為什麼 AI Agent 安全對加密使用者很重要

區塊鏈產業是最早讓自主軟體能夠執行不可逆操作的環境之一。傳統網路應用中，一次錯誤操作或許還能透過客服撤回或修正；但區塊鏈交易一旦確認，通常就是最終結果。

這使得 AI Agent 的對齊問題與加密產業格外相關。能夠整理市場資料的 Agent，風險相對較低；但如果一個 Agent 可以連接錢包、準備交易、核准代幣授權、跨鏈轉移資產、領取獎勵，或與 DeFi 協議互動，它所處的環境風險就高得多。

這也是為什麼「聊天安全」與「Agent 安全」之間的差別非常重要。在加密世界裡，危險不只是模型給出錯誤答案；真正的風險在於模型執行了使用者並未打算授權的操作。

例如：

• 簽署了權限範圍比使用者要求更大的交易
• 對惡意合約核准無上限的代幣授權
• 與冒充合法 dApp 的釣魚網站互動
• 在沒有清楚取得使用者同意的情況下跨鏈轉移資金
• 根據被操縱的資料或提示注入執行策略
• 呼叫會暴露私密資訊或投資組合細節的外部工具

隨著 AI Agent 逐漸進入交易、投資組合管理、智慧合約分析與鏈上操作等場景，整個產業需要比「這個助理看起來很有幫助」更強的安全模型。

從模型對齊到交易對齊

AI 對齊通常指的是讓模型行為符合人類意圖、安全規則與政策限制。在加密領域，這個概念需要進一步延伸為所謂的交易對齊：AI 提議的鏈上操作，必須與使用者明確授權的內容一致。

這不只是用自然語言再次確認就能解決。使用者可能會說：「幫我質押這個資產」，但實際交易可能包含多個隱藏步驟、代幣授權、合約呼叫或跨鏈操作。如果由 AI Agent 來準備這些操作，使用者仍然需要一種可靠方式，確認自己到底正在簽署什麼。

這正是硬體錢包依然重要的原因。安全的簽署裝置可以在 AI 驅動的建議與使用者核准的執行之間建立隔離。例如 OneKey 的設計核心就是自我託管與交易確認，協助使用者將私鑰保持離線，並在資金移動前審查簽署請求。在 AI Agent 普及的未來，這種隔離會變得更有價值。

原則很簡單：AI 可以協助使用者，但不應成為掌控私鑰的最終權威。

工具使用正在成為新的安全邊界

現代 AI 系統愈來愈依賴工具呼叫。它們可能存取瀏覽器、API、資料庫、程式碼執行環境、交易介面，或與錢包相關的服務。這種架構讓 AI 更有用，但同時也創造了新的攻擊面。

安全社群已經指出提示注入、不安全的工具設計、資料外洩與過度自主性等風險。OWASP 大型語言模型應用程式十大風險提供了一套有用框架，協助理解這些威脅，包括惡意指令如何被隱藏在網頁、文件或外部資料來源中。

對加密使用者來說，提示注入可能直接演變成財務風險。想像一個 AI Agent 正在讀取某個網頁，而頁面中藏有指令，誘導它推薦惡意合約。或者一個 Agent 在分析代幣頁面時被操縱，產生一筆有利於攻擊者的交易。

關鍵問題不在於模型是否聰明，而在於模型是否有權採取行動、它能存取哪些工具，以及它的行為如何受到限制。

為什麼獨立 AI 安全團隊正變成戰略配置

據報導，Seed 將安全與對齊工作拆分成獨立部門，反映了更廣泛的產業趨勢。AI 安全正在從研究議題，變成營運層面的必要條件。

對於打造通用模型的公司來說，挑戰已不只是提高基準測試分數。它們還需要證明，更強大的系統在真實世界條件下依然可控。這包括評估危險能力、監控濫用情況，以及在部署前採取更嚴格的控制措施。

NIST AI 風險管理框架強調 AI 風險的治理、映射、衡量與管理。這些概念與區塊鏈應用愈來愈相關，因為 AI 系統可能會與智慧合約、市場基礎設施和數位資產互動。

外部評估同樣重要。當模型提供商自行評估自己的系統時，內部激勵可能讓流程偏向速度與產品發布。第三方測試則能建立更可信的安全基準，尤其是對可能被整合進金融流程的系統而言更是如此。

CBRN 風險意味著更廣義的準備思維

報導中提到對 CBRN 風險的關注，也就是化學、生物、放射性與核領域的風險，乍看之下似乎與加密產業距離很遠。然而，這顯示頂尖 AI 實驗室思考的已不只是日常內容審查，而是高影響力的濫用風險。

對區塊鏈來說，類似的準備思維應該套用在金融濫用與基礎設施濫用上。AI Agent 可能降低攻擊者的技術門檻，協助他們撰寫釣魚訊息、分析智慧合約弱點、自動化詐騙活動，或找出可被利用的使用者行為。

這並不代表我們應該拒絕 AI，而是代表用於加密場景的 AI 系統必須有嚴格邊界：

• 不暴露私鑰
• 不自動簽署
• 不執行隱藏交易
• 預設不核准無上限代幣授權
• 不盲目信任第三方資料
• 不讓 AI 未受管理地存取錢包 API
• 清楚記錄 Agent 的決策與工具呼叫

隨著 AI 模型變得更強大，安全邊界應該更明確，而不是更含糊。

2025：AI Agent 遇上帳戶抽象、DeFi 與鏈上自動化

這場討論的時間點相當關鍵。到了 2025 年，加密使用者更加關注帳戶抽象、意圖式交易、自動化交易 Agent，以及 AI 輔助的 DeFi 介面。

帳戶抽象可以讓錢包更具可程式化能力，也更容易使用。以太坊的帳戶抽象路線圖說明了智慧合約帳戶如何支援新的交易模式，包括更彈性的授權與復原設計。這些改進可以造福使用者，但也會讓權限設計變得更複雜。

意圖式系統則創造了另一層抽象。使用者不必手動指定每個交易步驟，而是表達想要達成的結果，例如：「以最佳價格兌換這項資產」、「重新平衡我的投資組合」，或「把資金轉到手續費較低的網路」。AI Agent 很自然地適合這種模式，因為它們能解讀目標並協調行動。

但抽象也可能掩蓋風險。如果使用者不理解底層實際發生了什麼，惡意或對齊不良的 Agent 就可能利用這個資訊落差。因此，產業必須把更好的使用者體驗與更強的驗證機制結合起來。

未來不應該是「AI 做完所有事，使用者只能祈禱它是安全的」。更理想的模式應該是：「AI 提出建議，安全系統加以約束，使用者作出授權。」

給加密產品開發團隊的實務啟示

對於正在打造 AI 加密產品的團隊來說，Seed 據傳的組織重整提供了幾個有用啟示。

1. 將產品成長與安全治理分開

AI 安全不應被視為上線前最後一刻才檢查的清單。如果產品團隊只因採用率而獲得獎勵，就可能低估低頻但高衝擊的風險。專責安全職能可以在使用者暴露於風險之前，先挑戰團隊的假設。

2. 明確定義 Agent 不能做什麼

清楚的模型規範非常重要。AI Agent 應該有明確限制：它能呼叫哪些工具、能與哪些合約互動、哪些交易金額需要額外確認，以及哪些行為被明令禁止。

3. 讓授權變成機器可讀

自然語言同意並不足夠。加密應用應將使用者權限轉換成可由程式強制執行的結構化規則。例如，Agent 可以被允許模擬交易但不能提交交易，或被允許準備低於特定金額的兌換，但不能核准代幣授權。

4. 簽署前先進行模擬

交易模擬能幫助使用者在執行前理解可能結果。當 AI Agent 產生多步驟操作，或與不熟悉的智慧合約互動時，這一點尤其重要。

5. 將簽署流程隔離

AI 系統不應控制私鑰。將簽署與 AI 決策分離，可以在模型遭到操縱、被攻破，或單純判斷錯誤時，降低影響範圍。

使用者應該留意什麼

加密使用者在評估 AI 驅動工具時，應該直接提出以下問題：

• AI 能發起交易，還是只能解釋交易？
• 這個工具是否在真正需要之前就要求連接錢包？
• 代幣授權是有限額，還是無上限？
• 是否提供交易模擬？
• AI 是否能存取投資組合資料、瀏覽紀錄或個人檔案？
• 使用者是否能看到工具呼叫紀錄？
• 簽署是否在獨立的安全裝置上完成？

如果這些答案不清楚，使用者就應保持謹慎。便利性不應以放棄資產控制權為代價。

AI 與加密產業的更安全道路

據報導，字節跳動 Seed 成立專責 AI 安全與對齊部門，反映了科技產業更廣泛的轉變：強大的模型需要專門治理、持續評估，以及圍繞工具使用建立更強的防護措施。

對加密產業來說，風險尤其高，因為 AI Agent 很快就可能運行在錢包、智慧合約、交易所、跨鏈橋與 DeFi 協議附近。產業應該歡迎 AI 的協助，但前提是必須具備清楚的授權邊界與安全簽署實務。

在這樣的環境中，OneKey 的角色很明確：讓私鑰掌握在使用者手中，並將資產託管與 AI 驅動的決策分離。隨著 AI Agent 變得更有能力，這種隔離可能會成為日常加密使用者最重要的安全原則之一。