올트먼 vs. 아모데이: 초지능 시대, 인간은 주도권을 쥘 것인가—아니면 애완동물처럼 관리될 것인가?
올트먼 vs. 아모데이: 초지능 시대, 인간은 주도권을 쥘 것인가—아니면 애완동물처럼 관리될 것인가?
인공지능이 경제적 가치가 있는 거의 모든 업무에서 인간보다 뛰어난 능력을 갖추게 되면 어떤 일이 벌어질까? 그 답은 AI가 얼마나 많은 부를 창출할 수 있느냐뿐 아니라, 누가 AI에 대한 접근권을 통제하느냐에 달려 있다.
오픈AI CEO 샘 올트먼은 초지능 AI의 발전을 제한해야 하는 한이 있더라도, 인간이 자신의 미래에 대한 통제권을 지켜야 한다고 주장해 왔다. 그가 경고하는 것은 특정한 가능성이다. AI 시스템이 인간의 행동을 평가하고, 그에 따라 각자가 어떤 보상을 받을지 결정하는 사회가 도래할 수 있다는 것이다.
올트먼이 문제를 제기한 구상은 앤트로픽 CEO 다리오 아모데이가 2024년에 발표한 에세이에 등장한다. 다만 두 사람의 견해차를 이해하려면 맥락을 살펴볼 필요가 있다. 아모데이는 AI가 주도하는 분배 방식을 확정적인 해법으로 제안한 것이 아니라, 가능한 경제 체제 중 하나로 언급했다. 또한 이러한 체제가 착취나 디스토피아적 결과로 이어질 수 있다는 점도 인정했다.
암호화폐 사용자에게 이 논쟁은 매우 현실적인 질문을 던진다. 지능형 시스템이 경제의 중심이 되더라도, 사람들은 그 시스템의 허락을 구하지 않고 자신의 자산을 소유하고 이전하며 사용할 수 있을까?
AI 논쟁의 이면에 놓인 경제적 질문
아모데이는 사랑과 은총의 기계들에서 AI가 대부분의 업무를 인간보다 효율적이고 저렴하게 수행하는 미래를 고찰한다. 그런 세상이 현실이 된다면, 임금은 더 이상 경제적 생산의 혜택을 분배하는 안정적인 수단이 되지 못할 수 있다.
한 가지 대응책은 보편적 기본소득이다. 유급 일자리가 있는지와 관계없이 모든 사람에게 일정한 자원을 지급하는 방식이다. 그러나 더 우려스러운 가능성도 있다. 어떤 인간 활동이 지원받을 가치가 있는지를 평가하고, 그 결과에 따라 AI가 창출한 부를 분배하는 것이다.
두 방식의 차이는 매우 크다. 누구나 이해하고 이의를 제기할 수 있는 규칙에 따라 자원을 보장하는 시스템과, 불투명한 행동 평가를 통과해야만 자원에 접근할 수 있는 시스템은 결코 같지 않다.
올트먼이 문제 삼는 핵심은 바로 이러한 주체성의 상실이다. 중요한 것은 단순히 AI 시스템이 인간에게 물질적 풍요를 제공할 수 있느냐가 아니다. 사람들의 삶을 좌우하는 선택과 제도, 자원에 대해 인간이 실질적인 결정권을 계속 보유할 수 있느냐가 본질적인 문제다.
AI 주도 경제에서 소유권이 중요한 이유
AI 에이전트가 조사와 구매, 업무 흐름 관리에서 더욱 뛰어난 역량을 갖추면서 금융 활동에서도 더 큰 역할을 맡게 될 가능성이 있다. 예를 들어 기업은 AI 에이전트가 클라우드 컴퓨팅 비용을 결제하도록 권한을 부여할 수 있고, 개인은 일상적인 거래를 관리하는 데 AI 에이전트를 활용할 수 있다.
그러나 이러한 편의성에는 반드시 구분해야 할 중요한 원칙이 있다. AI 에이전트는 사용자를 대신해 행동할 수 있지만, 그렇다고 사용자의 자산을 소유하거나 아무런 제한 없이 자산을 통제해야 하는 것은 아니다.
암호화폐 지갑과 스마트 계약을 이용하면 이러한 구분을 코드로 구현할 수 있다.
- 사용자는 자산을 서비스 제공업체에 전적으로 맡기는 대신, 자신이 통제하는 계정에 보관할 수 있다.
- 애플리케이션은 자산과 상호작용하기 위한 권한을 요청할 수 있지만, 사용자는 그 권한이 실제로 무엇을 허용하는지 직접 판단해야 한다.
- 스마트 계약을 통해 지출 한도나 다중 승인 같은 사전 설정 조건을 강제할 수 있다.
- 퍼블릭 블록체인을 이용하면 특정 거래와 규칙을 외부에서도 독립적으로 확인할 수 있다.
물론 이러한 기능이 공정한 결과를 보장하는 것은 아니다. 다만 소프트웨어가 기계적인 속도로 결정을 내리는 환경에서, 사용자가 ‘도움을 받는 것’과 ‘통제권을 넘기는 것’을 분리할 수 있는 수단을 제공한다는 점에서 의미가 있다.
AI 에이전트에 필요한 것은 무제한 접근권이 아니라 제한된 권한이다
AI 에이전트를 암호화폐와 함께 유용하게 활용하려면 거래를 실행할 수 있는 권한이 필요할 수 있다. 하지만 아무런 제한이 없는 개인 키에 접근하도록 허용하면, 에이전트가 해킹당하거나 조작되거나 단순한 실수를 저질렀을 때 지갑 전체가 위험에 노출될 수 있다.
보다 안전한 설계는 에이전트가 할 수 있는 일을 제한하는 데서 출발한다. 지갑과 인프라에 따라 다음과 같은 방법을 적용할 수 있다.
- 특정 기간이나 작업에 대해 지출 한도를 설정한다.
- 승인된 주소나 계약으로만 송금 대상을 제한한다.
- 규모가 크거나 평소와 다른 거래에는 사람의 승인을 요구한다.
- 에이전트가 사용할 자금과 장기 보유 자산을 분리한다.
- 에이전트나 애플리케이션을 더 이상 신뢰할 수 없을 때 권한을 철회한다.
계정 추상화는 더욱 유연한 계정 기능을 지원하는 이더리움 개발 분야 중 하나다. ERC-4337 표준은 검증 로직을 자유롭게 설정할 수 있는 스마트 계약 계정 구현 방식을 설명한다. 이러한 설계를 활용하면 개발자는 용도에 맞는 세밀한 승인 절차를 구축할 수 있다. 다만 실제로 제공되는 보호 수준은 지갑의 구현 방식과 사용자가 활성화한 규칙에 따라 달라진다.
어떤 상황에서나 통하는 만능 안전장치는 없다. 지출 한도 역시 어떻게 설정하느냐에 따라 효과가 달라지며, 악성 계약이나 해킹된 인터페이스는 여전히 사용자를 속여 위험한 권한을 승인하도록 유도할 수 있다.
투명성은 중요하지만, 통제권과 같은 의미는 아니다
블록체인 기술은 때때로 중앙집중적 권력에 대한 자동적인 해법처럼 소개된다. 그러나 현실은 훨씬 복잡하다.
거래 기록이 온체인에 공개돼 있더라도, 그 거래를 유발한 의사결정 과정은 여전히 불투명할 수 있다. AI 시스템은 독점 모델이나 비공개 데이터, 공개되지 않은 기준을 이용해 누가 지급 대상이 될지를 결정할 수 있다. 그 지급 내역을 퍼블릭 원장에 기록한다고 해서 해당 결정이 합리적이었는지까지 알 수 있는 것은 아니다.
마찬가지로 스마트 계약은 규칙을 일관되게 실행할 수 있지만, 그 규칙 자체가 공정하다고 보장하지는 않는다. 소수 집단이 계약을 변경하거나, 계약이 의존하는 데이터를 통제하거나, 지배적인 인터페이스를 통해 접근을 차단할 수 있다면 사용자의 자율성은 온체인 기록이 보여 주는 것보다 훨씬 제한적일 수 있다.
AI와 연계된 금융 시스템을 평가할 때는 다음과 같은 질문을 던져야 한다.
- 누가 규칙을 변경할 수 있는가?
- 어떤 데이터가 의사결정에 영향을 미치는가?
- 사용자가 결과를 이해하고 이의를 제기할 수 있는가?
- 자산을 인출하거나 다른 서비스 제공업체로 옮길 수 있는가?
- AI 시스템이나 운영자가 제대로 작동하지 않으면 어떻게 되는가?
이러한 질문은 거래 속도나 자동화 수준만큼이나 중요하다. 인간이 통제권을 유지하려면 기술적으로 접근할 수 있어야 할 뿐 아니라, 그 접근권이 실질적인 의미를 갖도록 뒷받침하는 제도도 필요하다.
셀프 커스터디의 역할
셀프 커스터디에서는 사용자가 거래를 승인하는 키를 직접 관리하고 그에 대한 책임도 진다. 자동화 서비스가 경제 활동을 점점 더 많이 중개하는 환경에서 이는 중요한 경계선이 될 수 있다. AI 비서가 어떤 행동을 추천하더라도, 실제로 서명할지를 결정하는 권한은 자산 소유자에게 남겨둘 수 있기 때문이다.
OneKey와 같은 하드웨어 지갑은 개인 키를 전용 기기에 보관하고 지갑의 서명 절차를 통해 거래 승인을 요구함으로써 이러한 역할 분리를 지원할 수 있다. 그러나 하드웨어 지갑이 AI의 추천이 타당한지를 판단해 주는 것은 아니며, 사용자가 속아서 악성 거래를 직접 승인하는 경우까지 보호할 수는 없다. 사용자는 여전히 거래 세부 정보를 직접 확인하고 복구 정보를 안전하게 보관해야 한다.
AI 에이전트를 일상적으로 시험해 보고 싶다면 별도의 지갑에 제한된 금액만 보관하고, 장기 보유 자산은 더욱 신중한 승인 절차를 거치도록 분리하는 것이 위험 노출을 줄이는 데 도움이 될 수 있다. 적절한 구성은 보유 자산과 사용하는 애플리케이션, 감수해야 할 위험에 따라 달라진다.
목표는 단순한 풍요가 아니라 인간의 주체성이다
올트먼과 아모데이의 논쟁은 AI를 환영할 것인지 거부할 것인지 양자택일하는 단순한 문제가 아니다. AI가 가져올 경제적 가능성과 위험 모두 진지하게 검토할 필요가 있다. 더 어려운 질문은 기계의 역량이 커질수록 인간의 선택지가 확대되도록 만들 수 있는가, 아니면 그 선택권이 자신도 모르는 사이 기계로 대체될 것인가이다.
암호화폐만으로 이 문제를 해결할 수는 없다. 하지만 소유권과 자유롭게 이전할 수 있는 자산, 명시적인 권한 부여를 중시하는 암호화폐의 원칙은 AI가 인간의 자원 사용을 최종적으로 결정하는 권력자가 아니라 도구로 기능하는 시스템을 설계하는 데 기여할 수 있다.
