Altman 對決 Amodei：在超級智慧時代，人類能掌握主導權，還是只能成為被豢養的寵物？
Altman 對決 Amodei：在超級智慧時代，人類能掌握主導權，還是只能成為被豢養的寵物？
如果人工智慧在幾乎所有具有經濟價值的工作上都超越人類，世界將會變成什麼樣子？答案不只取決於 AI 能創造多少財富，也取決於誰掌握使用這些財富的權力。
OpenAI 執行長 Sam Altman 主張，人類應繼續掌握自身未來的主導權，即使代價是限制超級智慧 AI 的發展也在所不惜。他所警告的是一種特定情境：由 AI 系統評斷人類行為，並決定每個人能獲得哪些回報的社會。
他所質疑的構想，出自 Anthropic 執行長 Dario Amodei 在 2024 年發表的一篇文章。不過，兩人表面上的分歧仍需放回脈絡中理解。Amodei 只是將「由 AI 主導資源分配」列為一種可能的經濟安排，而非已經定案的主張；他也承認，這類制度可能導致剝削，甚至形成反烏托邦式的結果。
對加密貨幣使用者而言，這場辯論帶出了一個非常實際的問題：如果智慧系統成為經濟運作的核心，人們是否仍能在不必取得這些系統許可的情況下，擁有、轉移及使用自己的資產？
AI 辯論背後的經濟問題
在 Machines of Loving Grace 一文中，Amodei 探討了一種未來情境：AI 能以比人類更高效、更低廉的方式完成大多數工作。一旦這種情況成真，薪資可能不再是分配經濟生產成果的可靠方式。
一種可能的因應方案是全民基本收入：無論是否從事有薪工作，每個人都能獲得一定資源。另一種更令人不安的可能性，則是根據對人類活動「是否值得支持」的評估，來分配由 AI 創造的財富。
這兩種制度有著重大差異。依照人們能夠理解、也有權提出異議的規則，保障每個人都能獲得資源，與根據不透明的行為評估來決定誰有資格取得資源，完全是兩回事。
Altman 反對的核心，正是人類自主權的流失。問題不只是 AI 系統能否為人們提供富足安逸的生活，而是人類是否仍能對影響自身生活的選擇、制度與資源保有實質主導權。
為什麼所有權在 AI 驅動的經濟中至關重要
隨著 AI 代理程式在研究、採購及工作流程管理方面的能力日益提升，它們也可能在金融活動中扮演更重要的角色。例如，企業可以授權代理程式支付雲端運算費用，個人也可以用它協助處理日常交易。
然而，這種便利性也凸顯了一項重要區別：AI 代理程式可以代表使用者行動，但不必因此擁有使用者的資產，也不應取得不受限制的支配權。
加密貨幣錢包與智慧合約，能以程式碼具體落實這項區別：
- 使用者可以將資產存放在自己控制的帳戶中，而不是完全交由服務供應商保管。
- 應用程式可以要求取得與資產互動的權限，但使用者仍須自行判斷這些權限實際允許哪些操作。
- 智慧合約可以強制執行預先設定的條件，例如支出上限或多重核准機制。
- 公開區塊鏈能讓特定交易與規則接受獨立查驗。
這些功能都無法保證結果一定公平，但可以為使用者提供工具，將「協助」與「權力」區分開來。當軟體以機器速度作出決策時，這是一項十分重要的原則。
AI 代理程式需要的是有限權限，而不是無限制存取權
AI 代理程式若要與加密貨幣搭配使用，可能需要具備發起交易的能力。然而，如果直接讓它存取不受限制的私鑰，一旦代理程式遭到入侵、操縱，或只是單純犯錯，整個錢包都可能暴露在風險之中。
更安全的設計，應從限制代理程式的操作範圍開始。視錢包與基礎設施而定，可以採取以下做法：
- 設定支出上限，限制特定期間或任務的可用金額。
- 限制交易目的地，只能轉往經核准的地址或合約。
- 要求人工核准金額較大或異常的交易。
- 將代理程式可用資金與長期持有資產分開存放。
- 當代理程式或應用程式不再值得信任時，撤銷其權限。
帳戶抽象化是以太坊開發中的一個領域，可支援更具彈性的帳戶運作方式。ERC-4337 標準提出了一種智慧合約帳戶的實作方法，讓帳戶能採用可自訂的驗證邏輯。這類設計可以幫助開發者建立更符合特定需求的授權流程，不過，實際能提供哪些保護，仍取決於錢包的實作方式，以及使用者真正啟用了哪些規則。
目前並不存在適用於所有情境的萬用安全開關。支出上限能否發揮作用，取決於設定是否合理；惡意合約或遭入侵的操作介面，也仍可能誘導使用者授予危險權限。
透明度很重要，但不等於掌控權
區塊鏈技術有時被描述成解決中心化權力問題的萬靈丹，但現實遠比這複雜。
一筆交易或許能在鏈上公開查詢，促成這筆交易的決策過程卻可能依然不透明。AI 系統可能根據專有模型、私人資料或未公開的標準，決定誰能收到款項。即使付款紀錄被寫入公開帳本，也無法證明背後的決策是否合理。
同樣地，智慧合約可以一致地執行規則，卻無法保證規則本身是公平的。如果少數人有權修改合約、控制合約依賴的資料，或透過占主導地位的介面阻止他人存取，使用者擁有的自主權可能遠低於鏈上紀錄所呈現的表象。
對於任何與 AI 相連的金融系統，都應該思考以下問題：
- 誰有權修改規則？
- 哪些資料會影響決策？
- 使用者能否理解結果，並提出異議？
- 人們能否提領自己的資產，或改用其他服務供應商？
- 如果 AI 系統或其營運方失效，將會發生什麼事？
這些問題的重要性不亞於交易速度或自動化程度。人類若要保有主導權，不僅需要技術上的存取能力，也需要能讓這些權利真正發揮作用的制度。
自我託管扮演什麼角色
自我託管意味著使用者必須直接負責保管用來授權交易的私鑰。在經濟活動日益由自動化服務居中協調的環境中，這能建立一道重要界線：AI 助手可以提出行動建議，但是否簽署交易，最終仍由資產所有者決定。
OneKey 等硬體錢包可以協助維持這道界線，將私鑰保存在專用裝置中，並要求使用者透過錢包的簽署流程核准交易。不過，硬體錢包無法判斷 AI 的建議是否可靠；如果使用者受騙後自行核准惡意交易，它也無法提供保護。使用者仍須仔細確認交易內容，並妥善保管資產復原資訊。
若只是日常測試 AI 代理程式，可以在獨立錢包中存放少量資金，長期持有的資產則採用更審慎的核准流程，以降低風險曝險程度。至於最合適的配置方式，仍取決於涉及哪些資產、應用程式及風險。
真正的目標是自主權，而不只是物質富足
Altman 與 Amodei 之間的辯論，並不是「擁抱 AI」或「拒絕 AI」的簡單二選一。AI 所帶來的經濟潛力與風險，都值得嚴肅看待。更棘手的問題在於：我們該如何確保機器能力的提升能擴大人類的選擇，而不是在不知不覺中取代人類作主的權利。
加密貨幣無法獨力解決這個問題。不過，它對資產所有權、可攜性及明確授權的重視，能為系統設計提供重要方向，讓 AI 成為協助人類的工具，而不是決定人們能如何使用自身資源的最終權威。
