중국, AI 전 생애주기 입법 추진…위험 보고와 규제 샌드박스 도입 검토
중국, AI 전 생애주기 입법 추진…위험 보고와 규제 샌드박스 도입 검토
중국이 인공지능(AI) 거버넌스를 위한 포괄적인 체계 마련에 나서면서, AI와 블록체인 기술을 결합한 기업에도 영향을 미칠 가능성이 커지고 있다. 중국 국가발전개혁위원회가 11월 3일 제시한 정책 방향에 따르면, 데이터와 컴퓨팅 자원부터 알고리즘, 실제 응용 서비스에 이르기까지 AI의 전 생애주기 전반으로 관리·감독 범위가 확대될 전망이다.
개발자와 운영자에게는 안전 위험을 신속히 공개하고, 사고와 취약점을 선제적으로 보고하도록 권고할 방침이다. 동시에 정책 당국은 기업이 통제된 환경에서 신기술을 시험할 수 있도록 유예기간과 규제 샌드박스를 도입하는 방안도 구상하고 있다.
가상자산 기업이 주목해야 할 점은 명확하다. 현재 보도된 조치는 정책 추진 방향일 뿐, 확정된 의무 사항은 아니다. 기업들은 향후 입법의 적용 범위와 시행 일정, 그리고 기존 가상자산 관련 규제와의 관계를 면밀히 지켜봐야 한다.
AI 전 생애주기 감독이 의미하는 것
제안된 접근법은 AI 모델의 출력 결과에만 초점을 맞추는 대신, 개발과 배포의 모든 단계에서 발생할 수 있는 위험을 살펴보는 데 중점을 둔다. 여기에는 학습 데이터를 확보하는 방식, 시스템 테스트 절차, 제품 출시 이후의 운영, 문제 발생 시 운영자의 대응 방식 등이 포함될 수 있다.
중국은 이미 일부 AI 서비스를 규제하고 있다. 2023년부터 시행된 생성형 AI 서비스 잠정 관리 방법은 중국 내 일반 대중을 대상으로 콘텐츠를 생성하는 일정 요건의 서비스에 적용된다. 향후 더 포괄적인 법률이 마련되면 기존 규제 체계에 새로운 규정이 추가될 수 있지만, 현행 조치와 향후 법률이 구체적으로 어떤 관계를 맺게 될지는 아직 명확하지 않다.
블록체인 개발팀은 제품의 다양한 영역에 AI를 활용할 수 있다. 고객 지원 도우미, 거래 모니터링 도구, 스마트 계약 분석 서비스, 자동매매 인터페이스 등이 대표적이다. 그러나 각 기능이 수반하는 위험은 서로 다르다. 예를 들어 거래 내용을 설명하는 챗봇이 민감한 사용자 데이터를 노출할 수 있고, 거래를 직접 실행할 권한을 가진 AI 에이전트는 되돌리기 어려운 오류를 일으킬 수 있다.
이번 정책 방향은 기술적 보안 문제에만 국한되지 않는다. 고용 불안, 사용자의 AI 의존, 딥페이크, 알고리즘 차별, 개인정보 유출 등도 주요 관리 대상으로 거론된다. 이러한 문제는 AI를 활용해 계정 접근 여부를 결정하거나 금융 콘텐츠를 생성하고, 대화형 방식으로 사용자와 소통하는 가상자산 플랫폼에도 직접적인 영향을 줄 수 있다.
가상자산 제품에서 위험 공개가 중요한 이유
사고와 취약점 보고를 강조하는 정책 방향은 디지털 자산을 취급하는 제품에 특히 중요하다. 이 분야에서 AI의 실패는 단순히 틀린 답변을 내놓는 데 그치지 않을 수 있다. AI 시스템이 스마트 계약을 잘못 해석하거나 악성 주소를 추천하고, 사용자에게 안전하지 않은 거래를 승인하도록 유도할 수도 있기 때문이다.
기업은 다음 사항을 문서화하는 것부터 위험 노출 수준을 점검할 수 있다.
- 시스템의 경계: 어떤 결정은 AI가 내리고, 어떤 결정에는 사람의 승인이 필요한가?
- 데이터 흐름: 어떤 사용자 정보, 지갑 주소 또는 거래 내역이 AI 모델이나 외부 서비스 제공업체로 전송되는가?
- 사고 대응: 유해한 출력이나 보안 침해가 발생했을 때 이를 어떻게 탐지하고, 확산을 막으며, 관계자에게 알릴 것인가?
- 사용자 영향: 오류로 인해 자산 손실, 서비스 이용 제한 또는 민감한 정보의 유출이 발생할 수 있는가?
이는 실무적인 거버넌스 점검 사항이지, 확정된 중국의 법적 요구사항을 의미하는 것은 아니다. AI 위험을 보다 폭넓게 식별하고 관리하려면 미국 국립표준기술연구소(NIST)의 AI 위험관리 프레임워크를 유용한 참고 자료로 활용할 수 있다.
규제 샌드박스, 시험 운영의 기회 열 수 있어
규제 샌드박스는 일반적으로 규제 당국이 결과를 관찰하는 가운데, 기업이 정해진 범위 안에서 제품을 시험 운영할 수 있도록 허용하는 제도다. 11월 3일 공개된 정책 방향에 따르면 다양한 산업에서 샌드박스를 마련하고, 신청과 시험, 실제 활용, 종료에 이르는 절차를 구축할 수 있다. 관련 규칙 역시 운영 과정에서 지속적으로 검토하고 조정할 수 있다.
블록체인 개발자는 통제된 환경에서 AI 기반 보안 도구를 시험한 뒤 본격적인 배포 여부를 판단할 수 있다. 참여자 수와 거래 금액, 시스템 권한 등을 제한하면 대규모 사용자를 위험에 노출하지 않고도 오류와 문제점을 파악하기가 한층 쉬워진다.
그러나 규제 샌드박스 참여가 가상자산 서비스를 포괄적으로 허가받았다는 의미는 아니다. 프로젝트의 참여 가능 여부는 해당 프로그램과 세부 규칙, 시험하려는 활동의 성격에 따라 달라진다. 기업은 AI 관련 요건과 사업 지역에서 디지털 자산 및 금융 서비스를 규율하는 규정을 별도로 검토해야 한다.
합리적인 유예기간이 마련되면 관련 조직도 새로운 규제에 적응할 시간을 확보할 수 있다. 다만 유예기간의 길이와 실질적인 효과는 최종 규정에 따라 결정될 것이다.
AI 에이전트 시대, 거래 검토가 더욱 중요한 이유
가상자산 사용자에게 가장 중요한 문제 중 하나는 AI 시스템에 어느 정도의 권한을 부여할 것인가이다. AI 도우미는 스마트 계약을 요약하거나 거래 내용을 설명하는 데 유용할 수 있지만, 그 설명 자체가 해당 거래의 안전성을 보장해 주는 것은 아니다.
AI가 제안한 거래를 승인하기 전에 사용자는 다음 사항을 직접 확인해야 한다.
- 수신 주소와 네트워크. 아무리 그럴듯한 설명이 붙어 있어도 자금이 잘못된 곳으로 전송될 위험까지 사라지는 것은 아니다.
- 자산 종류와 수량. 지갑에서 어떤 자산이 얼마나 빠져나가는지, 수수료는 합리적인 수준인지 확인해야 한다.
- 스마트 계약 권한. 토큰 승인 내역을 꼼꼼히 확인해야 하며, 특히 계약이 향후 자산을 사용할 수 있도록 허용하는 권한에 주의해야 한다.
- 요청의 출처. 딥페이크 영상과 복제된 음성, 설득력 있는 채팅 메시지 때문에 사칭 여부를 판별하기가 더욱 어려워질 수 있다.
- 민감한 정보. 복구 문구나 개인 키를 AI 도우미, 고객 지원 채팅 또는 웹사이트에 절대 입력해서는 안 된다.
OneKey와 같은 하드웨어 지갑을 사용하면 개인 키를 인터넷에 연결된 기기와 분리해 보관하면서 거래 내용을 검토하고 승인할 수 있다. 다만 하드웨어 지갑이 모든 거래의 적법성을 판단하거나 사용자가 악성 요청을 승인하는 것까지 막아주는 것은 아니므로, 거래 전 세심한 검증은 여전히 필수적이다.
앞으로 주목해야 할 사항
중국의 AI 전 생애주기 입법 추진은 혁신뿐 아니라 AI 시스템이 실제 배포된 이후 초래할 수 있는 피해까지 함께 고려하는 거버넌스 모델을 지향한다. 블록체인 기업이 당장 해야 할 일은 제품과 서비스에서 AI가 어디에 사용되는지, 어떤 정보와 권한에 접근할 수 있는지, 사고가 발생하면 어떻게 대응할 것인지를 체계적으로 파악하는 것이다.
앞으로 확인해야 할 핵심 사항은 법률 초안의 적용 범위, 구체적인 보고 의무, 유예기간의 길이, 개별 규제 샌드박스의 설계 방식이다. 관련 내용이 공식적으로 공개되기 전까지 기업은 이번 정책 방향을 확정된 규정으로 받아들이기보다는, 향후 변화에 대비하라는 신호로 해석해야 한다.
