Китай продвигается к регулированию всего жизненного цикла ИИ: в центре внимания — раскрытие рисков и регуляторные песочницы

Китай движется к созданию более комплексной системы регулирования искусственного интеллекта, что может иметь последствия и для компаний, сочетающих ИИ с блокчейн-технологиями. Подход, представленный Государственным комитетом по делам развития и реформ 3 ноября, предполагает надзор за всем жизненным циклом ИИ — от данных и вычислительных ресурсов до алгоритмов и их практического применения.

Разработчиков и операторов планируется побуждать к своевременному раскрытию информации об угрозах безопасности, а также к заблаговременному уведомлению об инцидентах и уязвимостях. Одновременно с этим регуляторы рассматривают возможность введения переходных периодов и создания регуляторных песочниц, в которых компании смогут испытывать новые технологии в контролируемых условиях.

Для криптовалютного бизнеса важно понимать: объявленные меры пока отражают лишь направление государственной политики, а не окончательно утвержденный набор обязательных требований. Компаниям следует внимательно следить за тем, на кого будет распространяться будущее законодательство, когда оно вступит в силу и как будет соотноситься с действующими ограничениями в отношении криптовалютной деятельности.

Что может означать надзор за всем жизненным циклом ИИ

Предлагаемый подход не ограничивается контролем результатов работы модели: риски планируется оценивать на всех этапах ее разработки и внедрения. В частности, внимание может уделяться происхождению обучающих данных, процедурам тестирования систем, последствиям вывода продукта на рынок и действиям операторов в случае сбоев.

В Китае уже регулируются отдельные виды сервисов на базе ИИ. Действующие с 2023 года временные меры по управлению сервисами генеративного ИИ распространяются на соответствующие требованиям сервисы, генерирующие контент для пользователей в Китае. Новый комплексный закон может дополнить эту нормативную базу, однако точное соотношение существующих мер и будущего законодательства пока не определено.

В блокчейн-проектах ИИ может использоваться в самых разных компонентах продукта: в службе поддержки, инструментах мониторинга транзакций, сервисах анализа смарт-контрактов или интерфейсах автоматизированной торговли. Каждый из этих сценариев несет собственные риски. Например, чат-бот, объясняющий содержание транзакции, может раскрыть конфиденциальные данные пользователя, а ИИ-агент, способный самостоятельно инициировать операции, — допустить ошибку, которую будет трудно исправить.

Предлагаемое регулирование выходит за рамки сугубо технической безопасности. Среди вопросов, требующих особого внимания, названы сокращение рабочих мест, зависимость пользователей от ИИ, дипфейки, алгоритмическая дискриминация и утечки персональных данных. Эти проблемы могут быть особенно актуальны для криптоплатформ, применяющих ИИ при принятии решений о доступе к учетным записям, создании финансового контента или общении с пользователями.

Почему раскрытие информации о рисках важно для криптопродуктов

Требование сообщать об инцидентах и уязвимостях особенно актуально для продуктов, работающих с цифровыми активами. Последствия сбоя могут не ограничиваться неверным ответом: система ИИ способна неправильно интерпретировать контракт, порекомендовать вредоносный адрес или убедить пользователя одобрить небезопасную транзакцию.

При оценке потенциальных рисков командам стоит начать с документирования следующих аспектов:

• Границы системы: какие решения принимает ИИ, а какие требуют одобрения человека?
• Потоки данных: какие сведения о пользователях, адреса кошельков или данные о транзакциях передаются модели либо стороннему поставщику услуг?
• Реагирование на инциденты: как команда будет выявлять и локализовывать вредоносные результаты или нарушения безопасности и сообщать о них?
• Последствия для пользователей: может ли ошибка привести к потере активов, ограничению доступа к сервису или раскрытию конфиденциальной информации?

Это практические вопросы корпоративного управления, а не изложение окончательно утвержденных требований китайского законодательства. В качестве более общего руководства по выявлению рисков ИИ и управлению ими можно использовать систему управления рисками ИИ от NIST.

Регуляторные песочницы могут создать пространство для экспериментов

Регуляторная песочница обычно позволяет компании испытывать продукт в установленных пределах под наблюдением надзорных органов. В подходе, представленном 3 ноября, предусматривается возможность создания таких песочниц в различных отраслях, а также механизмов подачи заявок, проведения испытаний, эксплуатации продукта и выхода из программы. Со временем правила могут пересматриваться и корректироваться.

Для разработчиков блокчейн-решений контролируемое тестирование может стать способом оценить работу инструмента безопасности на базе ИИ до его широкого внедрения. Ограничения по числу участников, суммам транзакций или системным разрешениям помогут выявить сбои, не подвергая риску большую аудиторию.

Однако участие в песочнице не означает автоматического разрешения на оказание криптовалютных услуг. Возможность присоединиться к программе будет зависеть от условий конкретной песочницы, ее правил и вида тестируемой деятельности. Компаниям следует отдельно оценивать требования к ИИ и нормы, регулирующие цифровые активы и финансовые услуги в соответствующей юрисдикции.

Разумные переходные периоды также могут дать затронутым организациям время для адаптации. Их продолжительность и практическое значение будут зависеть от окончательной редакции правил.

ИИ-агенты повышают значимость тщательной проверки транзакций

Один из важнейших вопросов для пользователей криптовалют — какой объем полномочий можно доверить системе ИИ. Ассистент может помочь кратко изложить содержание контракта или объяснить параметры транзакции, однако его пояснение еще не доказывает безопасность операции.

Прежде чем одобрять предложенную ИИ транзакцию, пользователю следует самостоятельно проверить:

1. Адрес назначения и сеть. Даже убедительное объяснение не гарантирует, что средства не будут отправлены не туда.
2. Актив и сумму. Необходимо убедиться, какие именно активы и в каком количестве будут списаны с кошелька, а также проверить обоснованность комиссии.
3. Разрешения смарт-контракта. Особое внимание следует уделять одобрениям на использование токенов, особенно если они позволяют контракту распоряжаться активами в будущем.
4. Источник запроса. Дипфейки, клонированные голоса и убедительные сообщения в чатах затрудняют распознавание мошенников, выдающих себя за других лиц.
5. Конфиденциальные данные. Никогда не передавайте фразу восстановления или закрытый ключ ИИ-ассистенту, службе поддержки либо веб-сайту.

Аппаратный кошелек, такой как OneKey, помогает хранить закрытые ключи отдельно от подключенного к интернету устройства, при этом позволяя пользователю проверять и подтверждать транзакции. Однако он не способен определить легитимность каждой операции или помешать пользователю одобрить вредоносный запрос, поэтому тщательная самостоятельная проверка по-прежнему необходима.

За чем следить дальше

Стремление Китая к законодательному регулированию всего жизненного цикла ИИ указывает на формирование модели управления, которая учитывает как инновационный потенциал технологии, так и ущерб, который системы ИИ могут причинить после внедрения. Первоочередная задача блокчейн-компаний — определить, где именно используется ИИ, к каким данным и функциям он имеет доступ и как организация будет действовать при возникновении инцидентов.

Ключевыми станут подробности о сфере действия законопроекта, требованиях к отчетности, продолжительности переходных периодов и структуре отдельных регуляторных песочниц. Пока эта информация не опубликована, компаниям следует воспринимать объявленный курс как сигнал к подготовке, а не как замену окончательно утвержденным нормам.