OpenAI представляет Фреймворк управления передовыми моделями — Что это значит для безопасности и соответствия требованиям в криптоиндустрии
OpenAI представляет Фреймворк управления передовыми моделями — Что это значит для безопасности и соответствия требованиям в криптоиндустрии
OpenAI опубликовала новый Фреймворк управления передовыми моделями (FGF), который переводит части ее внутренней программы обеспечения безопасности передовых моделей в публичный документ по управлению, явно описывая, как ее практика призвана соответствовать возникающему регулированию в Калифорнии и Европейском Союзе. Для блокчейн-индустрии это важно по простой причине: поскольку кошельки, биржи, команды DeFi и поставщики услуг по соблюдению нормативных требований интегрируют большие модели в поддержку, мониторинг, торговлю и инструменты для разработчиков, управление ИИ становится частью управления крипто-рисками. (openai.com)
В этом посте мы рассмотрим, что представляет собой фреймворк, почему регуляторы настаивают на нем и как крипто-команды и пользователи могут перевести «управление передовыми ИИ» в конкретные результаты в области безопасности.
1) От «внутренних руководств по безопасности» к «аудируемому управлению»
Исторически многие усилия по обеспечению безопасности ИИ описывались в исследовательских постах, системных карточках или в виде внутренних описаний контроля. FGF от OpenAI отличается по своему замыслу: он написан как базовый документ управления, который может быть оценен на соответствие юридическим требованиям и обновлен по мере их эволюции.
Ключевые характеристики, выделенные OpenAI, включают:
- Он основан на существующем Фреймворке готовности OpenAI, но переформулирует соответствующие части как документ управления, ориентированный на нормативные обязательства (а не исключительно на внутренние науки о безопасности). (См. обзор OpenAI о рабочем процессе готовности (Preparedness workstream)). (cdn.openai.com)
- Он фокусируется на жизненном цикле оценки и снижения системных рисков, включая то, как риски идентифицируются, анализируются, принимаются и отслеживаются.
- Он перечисляет строительные блоки управления, помимо оценок, такие как отчетность по моделям, управление рисками безопасности, реагирование на инциденты, внешние экспертные мнения и управление изменениями. (cdn.openai.com)
Для крипто-компаний этот сдвиг является значимым: как только поставщики ИИ публикуют фреймворки управления, описывающие средства контроля, пороговые значения и пути эскалации, эти документы могут стать основой для комплексной проверки поставщиков, описаний контроля в стиле SOC 2 и регуляторных проверок, особенно в тех случаях, когда ИИ затрагивает пользовательские средства, идентификацию или целостность рынка.
2) Почему фреймворк явно ссылается на Калифорнию и ЕС
Калифорния: «Закон о прозрачности в области передовых ИИ» (SB 53)
FGF от OpenAI заявляет, что он разработан для соответствия Закону о прозрачности в области передовых ИИ (TFAIA) Калифорнии как «Фреймворк передового ИИ». На практике этот тип закона предполагает, что разработчики передовых моделей должны иметь документированные протоколы для управления катастрофическими рисками и сообщения о серьезных инцидентах.
TFAIA Калифорнии (SB 53) был подписан 29 сентября 2025 года, а законодательные материалы фокусируют его на прозрачности и мерах безопасности для высокопроизводительных моделей, включая определения катастрофического риска, критических инцидентов безопасности и опасных возможностей, таких как помощь в кибератаках. Вы можете ознакомиться с сообщением о подписании закона штатом и анализом комитетов через сообщение губернатора о подписании SB 53 (PDF) и анализ политического комитета Ассамблеи Калифорнии (PDF). (apcp.assembly.ca.gov)
Актуальность для криптоиндустрии: Калифорния является крупным центром как для ИИ, так и для криптографии. Если «прозрачность передовых ИИ» станет фактическим стандартом для поставщиков ИИ, крипто-бизнесу, который полагается на сторонние модели (для поддержки, обнаружения мошенничества, проверки кода или торговых инструментов), может потребоваться все больше доказательств управления, а не только метрик производительности.
ЕС: Реализация Закона об ИИ достигает этапов соблюдения
Закон ЕС об ИИ вступил в силу в 2024 году и поэтапно вводит обязательства. Официальные материалы Европейской комиссии подчеркивают, что некоторые части закона уже начали применяться (например, запрещенные практики и обязательства по повышению грамотности в области ИИ), а более широкие обязательства вступят в силу 2 августа 2026 года. Официальный график см. в графике реализации Закона об ИИ Комиссии и на обзорных страницах на сайте политики ЕС по Закону об ИИ. (ai-act-service-desk.ec.europa.eu)
Актуальность для криптоиндустрии: даже если ваша организация «не является компанией, занимающейся ИИ», если вы используете системы ИИ при онбординге клиентов, мониторинге транзакций или поддержке клиентов, вы можете подпадать под определения ЕС для поставщиков/пользователей. Документы по управлению, подготовленные ведущими ИИ-лабораториями, могут быстро стать эталоном для определения «что такое хорошо».
3) Сопоставление категорий рисков передовых ИИ с реальными крипто-угрозами
FGF от OpenAI выделяет основные области риска, включая кибероружие, биологические, химические, радиологические и ядерные угрозы (CBRN), вредные манипуляции и потерю контроля. (cdn.openai.com) Не все из них одинаково актуальны для повседневной работы в криптоиндустрии, но структура очень хорошо переносима.
A. Кибероружие → кража кошельков, эксплуатация смарт-контрактов и компрометация операций
Крупнейшие потери в криптоиндустрии по-прежнему связаны с:
- кражей учетных данных и компрометацией конечных точек,
- атаками на цепочку поставок инструментов для разработчиков,
- уязвимостями смарт-контрактов,
- целенаправленным проникновением в управление операционными ключами.
По мере совершенствования моделей в автоматизации рабочих процессов разведки и эксплуатации, «время до создания оружия» для распространенных ошибок может сократиться. Это повышает ценность концепций управления, таких как уровни риска, управление рисками безопасности и руководства по реагированию на инциденты — не только для ИИ-лабораторий, но и для любой крипто-организации, которая использует ИИ внутри компании.
B. Вредные манипуляции → мошенничество с дипфейками, выдача себя за другое лицо и «истощение службы поддержки»
«Манипуляция» в криптоиндустрии не является абстракцией: она проявляется в виде социальной инженерии в масштабе. В 2025 году Chainalysis задокументировала, как ИИ используется для создания дипфейков, клонирования голоса и тактик выдачи себя за другое лицо в мошенничестве с криптовалютами (см. их анализ мошенничества с криптовалютами на основе ИИ (AI-powered crypto scams)). (chainalysis.com)
Именно здесь пересекаются управление и пользовательский опыт: лучший технический стек для хранения средств все равно может потерпеть неудачу, если пользователь убежден подписать неверную транзакцию.
C. Потеря контроля → автономные агенты с правом расходования средств
По мере того, как «агентные» инструменты становятся мейнстримом (боты, которые могут просматривать, кодировать и выполнять многошаговые действия), крипто-команды будут склонны предоставлять агентам разрешения: ключи API, лимиты расходов на горячие кошельки, права на ликвидацию или возможность голосования по управлению.
Вопрос управления передовыми моделями становится: как надежно отключить, ограничить и аудировать систему ИИ, которая может действовать в рамках различных инструментов? Даже если у ИИ-лаборатории есть надежные средства контроля, ваши собственные решения по интеграции могут воссоздать риск «потери контроля» внутри вашей среды.
D. CBRN → в основном косвенно, но санкции и соблюдение нормативных требований — напрямую
Хотя CBRN не является типичной операционной проблемой для криптоиндустрии, регулирование моделей, связанных с риском CBRN, как правило, повышает ожидания в отношении:
- контроля доступа,
- ведения журналов и мониторинга,
- красной команды (red-teaming),
- норм внешнего информирования после крупных инцидентов.
Эти ожидания часто распространяются на более широкую культуру соблюдения нормативных требований, влияя на то, как крипто-фирмы оправдывают использование ИИ в конфиденциальных рабочих процессах.
4) Практический контрольный список для крипто-команд, внедряющих ИИ (без ожидания аудиторов)
Если ваш продукт затрагивает хранение, торговлю, кредитование, идентификацию или поддержку клиентов, относитесь к управлению ИИ так же, как к управлению ключами: предполагайте, что оно будет протестировано в условиях повышенной нагрузки.
Вот упрощенный контрольный список, который вы можете реализовать прямо сейчас:
-
Приемка поставщиков по управлению
- Запрашивайте публичные фреймворки и документацию по безопасности (для OpenAI начните с Фреймворка управления передовыми моделями (PDF) (Frontier Governance Framework (PDF))).
- Спрашивайте, как часто обновляются фреймворки и что вызывает их обновление.
-
Моделирование угроз при интеграции
- Моделируйте полный путь от запроса → вызова инструмента → создания транзакции → запроса подписи.
- Явно включайте «атаки с целью манипуляции» (например, агент убеждает пользователя / оператора обойти политику).
-
Минимизация привилегий для агентов
- Отсутствие постоянных разрешений на траты или необратимые действия.
- Обеспечьте временные учетные данные, ограничения скорости и одобрение человеком для операций с высоким уровнем воздействия.
-
Реагирование на инциденты с учетом «инцидентов с моделями»
- Определите, что считается инцидентом с ИИ: инъекция промпта, приводящая к утечке данных, выполнение небезопасных действий или использование скомпрометированных ключей API агентами.
- Проводите учения.
-
Принятие внутреннего фреймворка управления рисками в области ИИ
- Используйте признанную базу, такую как NIST AI Risk Management Framework (NIST AI Risk Management Framework), для стандартизации ролей, документации и средств контроля.
5) Что должны уяснить пользователи: управление снижает риски, но не может заменить гигиену самостоятельного хранения средств
Даже если разработчики передовых ИИ-моделей опубликуют лучшие документы по управлению, наиболее распространенные пути потерь среди розничных пользователей остаются прежними:
- выдача себя за другое лицо,
- поддельные службы поддержки,
- принудительное или поспешное подписание,
- подмена адресов и вредоносное ПО для буфера обмена.
Именно поэтому «проверка на отдельном доверенном экране» остается самым надежным средством контроля пользователя в 2026 году.
Если вы регулярно совершаете транзакции в блокчейне, рассмотрите возможность сочетания бдительности эпохи ИИ с рабочим процессом аппаратного кошелька, где:
- закрытые ключи хранятся в офлайне,
- транзакции подтверждаются на устройстве,
- дисплей устройства рассматривается как источник истины.
OneKey естественно вписывается в этот момент, поскольку он подчеркивает изоляцию закрытых ключей в офлайне и подтверждение на устройстве, что может существенно снизить радиус поражения фишинговых атак и социальной инженерии, управляемой ИИ, — особенно когда мошенники используют дипфейки и высокоперсонализированные сценарии, чтобы заставить пользователей подписать транзакции.
