Anthropic 推出新的安全措施：Claude 每次回答後都會檢視你的對話
Anthropic 推出新的安全措施：Claude 每次回答後都會檢視你的對話
Anthropic 公布了一項新的 AI 安全機制，可能對加密貨幣產業帶來重要影響。
自 6 月起，Claude 在產生回答後，會額外進行一次「自我評估」。在這個不對外公開的回應後步驟中，模型會檢視剛剛處理的對話，並評估其中是否可能涉及詐騙、網路攻擊或其他高風險活動等濫用行為。
這項檢視不會自動封鎖原本的回答，使用者也看不到評估結果。相反地，這套機制主要是為了監控、調查，以及針對帳戶採取相應的管制措施。
對於日益依賴 AI 代理的加密貨幣使用者、開發者與企業而言，這項變化帶出了一個更廣泛的問題：AI 系統能否在事後辨識惡意意圖？當自動化工具介入時，人們又該如何保護自己的資產？
Claude 的自我評估究竟會做什麼
傳統的 AI 安全系統通常仰賴獨立的分類器。這些工具會檢查提示詞與輸出內容，尋找可能與受禁止或危險活動相關的訊號。
Anthropic 的新做法則讓 Claude 承擔第二項責任。完成回答後，模型會運用剛剛分析過的上下文，評估這次互動是否可能顯示出濫用行為，接著為整段對話標示風險等級。
根據 Anthropic 公布的資料，這項機制所增加的成本相對有限。Claude 平均會為自我評估額外產生約 10 個 token，而新增的推理需求只佔總推論運算量不到 2%。
這種設計與即時內容過濾有所不同。系統可能在不阻止原始回答的情況下，辨識出可疑行為。這項差異對加密貨幣領域尤其重要，因為 AI 產生的回答可能會立刻被用來建立錢包、部署程式碼、轉移資金，或聯絡潛在受害者。
Anthropic 對 AI 安全的整體做法，詳見其公開安全資料；而 NIST AI 風險管理框架則提供了一個實用的業界參考，可協助理解風險辨識、監控與應對。
為什麼這對加密貨幣與區塊鏈很重要
加密貨幣產業具備多項特性，使得回應後的 AI 監控格外值得關注：
- 交易往往無法撤銷。
- 公開區塊鏈地址可能只是化名，未必能直接對應到真實身分。
- 智能合約一旦部署，便可能自動轉移資產。
- 社交工程仍是最有效的攻擊手法之一。
- AI 程式碼工具既能加快正當開發，也能提升惡意操作的效率。
詐騙者不一定需要 AI 模型產生明顯帶有犯罪性質的回答。他們可能會要求 AI 協助撰寫客服話術、錢包恢復頁面、代幣行銷內容、自動化聯絡訊息，或進行程式碼除錯。惡意意圖可能要經過多次看似普通的互動後，才會逐漸浮現。
因此，從整段對話的層次進行分析，會比單獨判斷某一則提示詞更有價值。單看「撰寫一封專業訊息」的要求，或許顯得無害；但如果再結合冒充交易平台、施壓受害者轉移加密貨幣，以及自動化發送後續訊息等要求，整體模式就會令人高度警惕。
早期偵測案例已涉及加密貨幣濫用
Anthropic 表示，這套自我評估系統曾偵測出傳統防護措施未能發現的案例。
據報導，8 月有一名 API 客戶產生了超過 10 萬個與兒童性剝削相關的風險警示。Anthropic 表示，已將該案件通報給美國相關當局。
9 月，系統偵測到一項疑似利用 Claude Code 自動化執行戀愛詐騙的行動，受害者多達數十人。Anthropic 隨後展開調查，並封鎖了相關帳戶。
這些案例顯示，AI 服務供應商可以利用生成後監控，辨識出那些在每一則獨立回答產生當下，未必明顯可見的可疑行為。
這些案例也凸顯了數位資產使用者日益關注的問題。戀愛詐騙、投資詐騙與假冒客服的行動經常使用加密貨幣，因為資金可以快速跨境轉移，而且往往難以追回。美國聯邦貿易委員會針對加密貨幣詐騙所提供的消費者指南列出了幾種常見模式，包括冒充他人、承諾保證收益，以及要求立即付款等。
能夠偵測，不代表能夠預防
Anthropic 的成果同時也顯示了自我評估的限制。
在一項涉及 24 種網路攻擊情境的測試中，研究人員停用了標準防護措施，並讓模型嘗試利用自我評估進行即時介入。然而，攻擊仍有 13 次成功。
這項結果很重要，因為它能避免一種常見誤解：AI 模型即使能在產生回答後辨識出可疑行為，也不代表它一定能在造成損害前及時阻止行動。
對加密貨幣應用而言，兩者的差距可能只在幾秒之間。如果 AI 代理產生了惡意智能合約、洩露私鑰、核准代幣交易，或發送欺騙性訊息，之後才出現的風險分類或許有助於調查，卻無法自動挽回已造成的後果。
因此，AI 安全監控應被視為整體安全架構中的其中一層，而不能取代交易管控機制。
背景檢視背後的隱私取捨
一套會在回答後檢視對話的系統，必須處理更多與使用者互動相關的資訊。即使其目的在於提升安全性，仍會引發一些合理疑問：
- 哪些資料會被保留？
- 風險評估結果會儲存多久？
- 誰可以存取被標記的對話？
- 企業客戶的活動受到檢視時，是否會收到通知？
- 使用者能否對自動化管制決定提出申訴？
- 系統如何處理誤判？
對於可能利用 AI 處理錢包地址、交易中繼資料、事件報告或客服對話的加密貨幣公司而言，這些問題相當重要。區塊鏈資料通常是公開的，但某個地址與真實身分之間的關聯可能十分敏感。若將鏈上活動與私密 AI 對話結合，便可能建立更完整的個人行為檔案。
因此，將 AI 整合至金融或 Web3 工作流程的企業，應檢視供應商政策、盡量減少不必要的個人資料，並將高風險機密資訊與一般用途的聊天環境分開。私鑰、助記詞、API 憑證、簽署權限，以及正式環境的部署機密，絕不應僅因為對話式 AI 工具看似安全，就直接輸入其中。
使用 AI 與加密貨幣時，使用者應該怎麼做
AI 輔助開發與自動化代理日益普及，並不代表使用者可以忽略基本的營運安全。只要涉及資金或權限，使用者仍應在暴露這些資源之前，採取獨立的管控措施。
將簽署權限與 AI 工具分開
AI 助理可以協助解釋交易或檢查程式碼，但不應擁有私鑰的無限制存取權，也不應擁有不受限制的交易簽署權限。
測試環境與正式環境應彼此分離。盡可能限制權限，並在進行大額轉帳、升級合約或變更金庫基礎設施之前，要求人工作出明確核准。
獨立驗證地址與合約細節
絕不要只依賴 AI 產生的說明來判斷錢包地址、智能合約或交易。在簽署之前，應透過獨立介面檢查收款地址、網路、代幣數量及核准範圍。
攻擊者也可能操縱網站、文件與客服管道。看起來熟悉的訊息，並不能證明其真實性。
AI 產生的程式碼，在審查前都應視為不可信
AI 能加快智能合約開發，但生成的程式碼可能包含存取控制錯誤、不安全的假設，或難以在快速審查中察覺的漏洞。
對於處理真實資金的合約，測試、程式碼審查、靜態分析與專業安全稽核仍不可或缺。OWASP 智能合約十大風險提供了區塊鏈應用中常見安全風險的實用概覽。
對緊迫要求與保證收益保持懷疑
AI 產生的訊息可能讓詐騙內容更具說服力，也更能針對個人量身打造。任何要求你在時間壓力下轉移資金、連接錢包、提供恢復片語或投資的突發訊息，都應被視為可疑，無論訊息看起來多麼專業。
任何合法的客服人員，都不會要求你提供錢包的恢復片語或私鑰。
這對 AI 驅動的 Web3 未來意味著什麼
Anthropic 的自我評估機制，代表安全防護正從單純的提示詞過濾，轉向持續性的行為監控。系統不再只判斷某一項要求是否違反規則，而是試圖評估整段互動的發展軌跡。
隨著 AI 代理逐漸具備瀏覽網路、撰寫程式碼、與 API 互動，以及執行區塊鏈交易的能力，這種做法可能會變得愈來愈重要。不過，目前系統的限制也很明顯：偵測可能漏掉攻擊，而回應後的檢視也可能來得太晚，無法阻止資金損失。
對加密貨幣產業而言，最實際的模式是採取縱深防禦：
- AI 服務供應商應改善濫用偵測能力與透明度。
- 開發者應限制代理權限，並隔離敏感憑證。
- 應用程式應加入交易模擬、允許清單、速率限制與核准流程。
- 使用者應持續掌握交易簽署權限，並驗證每一筆重要交易。
- 錢包應在使用者授權之前，清楚顯示高風險操作。
OneKey 硬體錢包的設計核心，正是讓使用者掌握最後一層的簽署控制權。將私鑰與一般用途的軟體隔離，可以降低電腦遭入侵、應用程式惡意操作，或 AI 工作流程權限過大的風險。一個硬體錢包無法判斷 AI 產生的訊息是否為詐騙，但它能協助確保交易仍必須由資產持有人刻意授權後才能完成。
Anthropic 的實驗提醒我們，AI 安全正逐漸從一次性的過濾機制，轉變為持續進行的流程。在自動化與不可逆交易交會的加密貨幣領域，最安全的策略不是信任任何單一模型或監控系統，而是將 AI 監督、完善的隱私措施、有限的權限、獨立驗證，以及由硬體支援的私鑰控制結合起來。
