ByteDance Seed создает самостоятельное подразделение по безопасности ИИ: Ян Лин будет подчиняться У Юнхуэю, в центре внимания — выход агентов за пределы полномочий

Сообщаемое решение ByteDance Seed создать независимый отдел Model-Alignment & Preparedness — это не просто внутренняя перестройка в сфере управления ИИ. Для криптоиндустрии оно подчеркивает вопрос, который в 2025 году становится все более актуальным: что происходит, когда ИИ-агенты уже не только отвечают на вопросы, но и вызывают инструменты, выполняют рабочие процессы и потенциально взаимодействуют с ончейн-активами?

Согласно недавним отраслевым сообщениям, новое подразделение Seed возглавит Ян Лин, ранее отвечавший за работу по выравниванию большой модели Doubao. Он будет напрямую подчиняться руководителю Seed У Юнхуэю. Ожидается, что в новую структуру перейдут сотрудники бывшей команды Responsible AI, а также часть команды Chat. В круг задач подразделения, как сообщается, войдут спецификации моделей, оценка безопасности, обучение выравниванию, защитные механизмы, мониторинг рисков, а также сотрудничество с внешними исследовательскими организациями и сторонними оценщиками.

Главный сигнал очевиден: по мере того как ИИ-модели получают более сильные способности к рассуждению и использованию инструментов, безопасность уже нельзя сводить к предотвращению нежелательных ответов чат-бота. Более сложная задача — гарантировать, что автономные агенты не будут выходить за рамки полномочий, предоставленных пользователем.

Почему безопасность ИИ-агентов важна для криптопользователей

Блокчейн-индустрия — одна из первых сред, где автономное программное обеспечение может совершать необратимые действия. В традиционном веб-приложении ошибочную операцию иногда можно отменить через службу поддержки. В блокчейне транзакция после подтверждения, как правило, окончательна.

Именно поэтому выравнивание ИИ-агентов особенно важно для криптовалют. Агент, который умеет кратко пересказывать рыночные данные, несет сравнительно низкие риски. Но агент, который может подключаться к кошельку, готовить транзакцию, одобрять разрешение на использование токенов, переводить активы между сетями, забирать награды или взаимодействовать с DeFi-протоколом, работает в среде с гораздо более высоким уровнем риска.

Поэтому различие между «безопасностью чата» и «безопасностью агента» имеет значение. В криптоиндустрии опасность не только в том, что модель даст плохой ответ. Опасность в том, что модель выполнит действие, которого пользователь не хотел.

Примеры включают:

• Подписание транзакции с более широкими правами, чем запрашивалось
• Одобрение неограниченного allowance для вредоносного контракта
• Взаимодействие с фишинговым сайтом, имитирующим легитимное dApp
• Перемещение средств между сетями без явного согласия пользователя
• Выполнение стратегии на основе манипулированных данных или prompt injection
• Вызов внешних инструментов, раскрывающих приватную информацию или детали портфеля

Рост числа ИИ-агентов в трейдинге, управлении портфелем, анализе смарт-контрактов и ончейн-операциях означает, что индустрии нужна более сильная модель безопасности, чем просто «ассистент вроде бы был полезен».

От выравнивания модели к выравниванию транзакций

Под выравниванием ИИ обычно понимают приведение поведения модели в соответствие с намерениями человека, правилами безопасности и политическими ограничениями. В криптоиндустрии эту идею нужно расширить до того, что можно назвать выравниванием транзакций: предлагаемое ИИ ончейн-действие должно соответствовать явному разрешению пользователя.

Для этого недостаточно подтверждения на естественном языке. Пользователь может сказать: «Помоги мне застейкать этот актив», но транзакция может включать несколько скрытых шагов, одобрения токенов, вызовы контрактов или операции между сетями. Если действие готовит ИИ-агент, пользователю все равно нужен надежный способ проверить, что именно он подписывает.

Именно здесь аппаратные кошельки сохраняют ключевое значение. Безопасное устройство для подписи создает разделение между предложениями, сформированными ИИ, и исполнением, одобренным пользователем. Например, OneKey построен вокруг принципов самостоятельного хранения активов и подтверждения транзакций: он помогает пользователям держать приватные ключи офлайн и проверять запросы на подпись до того, как средства будут перемещены. В будущем, где ИИ-агенты станут обычным явлением, такое разделение станет еще ценнее.

Принцип прост: ИИ может помогать, но он не должен становиться последней инстанцией в управлении приватными ключами.

Использование инструментов — новая граница безопасности

Современные ИИ-системы все чаще опираются на вызов инструментов. Они могут получать доступ к браузерам, API, базам данных, средам выполнения кода, торговым интерфейсам или сервисам, связанным с кошельками. Такая архитектура делает ИИ полезнее, но одновременно создает новые поверхности атаки.

Сообщество специалистов по безопасности уже выделило такие риски, как prompt injection, небезопасный дизайн инструментов, утечки данных и чрезмерная автономность. OWASP Top 10 for Large Language Model Applications дает полезную основу для понимания этих угроз, включая ситуации, когда вредоносные инструкции скрываются на веб-страницах, в документах или во внешних источниках данных.

Для криптопользователей prompt injection может превратиться в прямую финансовую угрозу. Представьте ИИ-агента, который читает веб-страницу со скрытыми инструкциями рекомендовать вредоносный контракт. Или агента, который анализирует страницу токена и под воздействием манипуляции генерирует транзакцию в пользу злоумышленника.

Ключевой вопрос не в том, насколько модель умна. Вопрос в том, есть ли у нее разрешение действовать, к каким инструментам она имеет доступ и какими ограничениями сдерживаются ее действия.

Почему независимые команды по безопасности ИИ становятся стратегически важными

Сообщаемый шаг Seed по выделению безопасности и выравнивания в отдельный отдел отражает более широкий отраслевой тренд. Безопасность ИИ превращается из исследовательской темы в операционную необходимость.

Для компаний, создающих модели общего назначения, задача уже не сводится к улучшению результатов в бенчмарках. Им нужно доказывать, что более мощные системы остаются управляемыми в реальных условиях. Это включает оценку опасных возможностей, мониторинг злоупотреблений и применение более строгих контролей до запуска.

NIST AI Risk Management Framework делает акцент на управлении, картировании, измерении и контроле рисков ИИ. Эти подходы становятся все более актуальными для блокчейн-приложений, где ИИ-системы могут взаимодействовать со смарт-контрактами, рыночной инфраструктурой и цифровыми активами.

Внешняя оценка также важна. Когда поставщики моделей оценивают собственные системы, внутренние стимулы могут смещать процесс в сторону скорости и выпуска продукта. Стороннее тестирование помогает создать более надежный базовый уровень безопасности, особенно для систем, которые могут быть встроены в финансовые рабочие процессы.

Упоминание CBRN говорит о более широком подходе к готовности

Сообщаемый фокус на рисках CBRN — химических, биологических, радиологических и ядерных областях — может показаться далеким от криптоиндустрии. Однако он показывает, что ведущие ИИ-лаборатории думают не только о рутинной модерации контента, но и о злоупотреблениях с высоким потенциальным ущербом.

Для блокчейна аналогичный подход к готовности должен применяться к финансовым злоупотреблениям и атакам на инфраструктуру. ИИ-агенты могут снизить порог навыков для злоумышленников, помогая им писать фишинговые сообщения, анализировать уязвимости смарт-контрактов, автоматизировать мошеннические кампании или выявлять эксплуатируемые модели поведения пользователей.

Это не означает, что от ИИ нужно отказаться. Это означает, что ИИ-системы, используемые в криптоиндустрии, должны проектироваться со строгими границами:

• Никакого раскрытия приватных ключей
• Никакого автоматического подписания
• Никакого скрытого исполнения транзакций
• Никаких неограниченных token approvals по умолчанию
• Никакого слепого доверия сторонним данным
• Никакого неуправляемого доступа к API кошельков
• Прозрачные журналы решений агента и вызовов инструментов

По мере усиления ИИ-моделей безопасность должна становиться более явной, а не более неявной.

2025 год: ИИ-агенты встречаются с account abstraction, DeFi и ончейн-автоматизацией

Время для этой дискуссии выбрано не случайно. В 2025 году криптопользователи все внимательнее следят за account abstraction, intent-based транзакциями, автоматизированными торговыми агентами и DeFi-интерфейсами с поддержкой ИИ.

Account abstraction может сделать кошельки более программируемыми и удобными. Дорожная карта Ethereum по account abstraction объясняет, как смарт-контрактные аккаунты могут поддерживать новые модели транзакций, включая более гибкую авторизацию и механизмы восстановления. Эти улучшения могут быть полезны пользователям, но они также усложняют дизайн разрешений.

Intent-based системы создают еще один уровень абстракции. Вместо того чтобы вручную задавать каждый шаг транзакции, пользователь может описать желаемый результат: «обменяй этот актив по лучшей цене», «ребалансируй мой портфель» или «переведи средства в сеть с более низкими комиссиями». ИИ-агенты естественно вписываются в такую модель, потому что умеют интерпретировать цели и координировать действия.

Но абстракция может скрывать риски. Если пользователи не понимают, что происходит «под капотом», вредоносные или плохо выровненные агенты могут воспользоваться этим разрывом. Поэтому индустрии необходимо сочетать лучший UX с более надежной проверкой.

Будущее не должно выглядеть так: «ИИ делает все, а пользователь надеется, что это безопасно». Оно должно выглядеть так: «ИИ предлагает, системы безопасности ограничивают, пользователь авторизует».

Практические уроки для разработчиков криптопродуктов

Для команд, создающих криптопродукты с поддержкой ИИ, сообщаемая реструктуризация Seed дает несколько полезных уроков.

1. Отделяйте рост продукта от управления безопасностью

Безопасность ИИ не должна быть пунктом в чек-листе, который вспоминают в последний момент. Если продуктовая команда вознаграждается только за рост adoption, она может недооценить редкие, но крайне опасные риски. Выделенная функция безопасности способна оспаривать предположения до того, как пользователи столкнутся с угрозами.

2. Определите, что агенту запрещено делать

Четкие спецификации модели имеют значение. У ИИ-агента должны быть явные ограничения: какие инструменты он может вызывать, с какими контрактами взаимодействовать, какие размеры транзакций требуют дополнительного подтверждения и какие действия запрещены.

3. Делайте авторизацию машиночитаемой

Согласия на естественном языке недостаточно. Криптоприложения должны переводить разрешения пользователя в структурированные правила, которые можно программно enforce. Например, агенту можно разрешить симулировать транзакции, но не отправлять их, или разрешить готовить swaps ниже определенной суммы, но не одобрять token allowances.

4. Используйте симуляцию перед подписанием

Симуляция транзакций помогает пользователям понять возможные результаты до исполнения. Это особенно важно, когда ИИ-агенты генерируют многошаговые действия или взаимодействуют с незнакомыми смарт-контрактами.

5. Изолируйте подписание

ИИ-системы не должны контролировать приватные ключи. Отделение подписания от принятия решений ИИ снижает масштаб возможного ущерба, если модель будет манипулирована, скомпрометирована или просто ошибется.

На что пользователям стоит обращать внимание

Криптопользователям, оценивающим инструменты на базе ИИ, стоит задавать прямые вопросы:

• Может ли ИИ инициировать транзакции или только объяснять их?
• Запрашивает ли инструмент подключение кошелька до того, как это действительно необходимо?
• Ограничены ли token approvals или они неограниченные?
• Есть ли симуляция транзакций?
• Может ли ИИ получать доступ к данным портфеля, истории браузера или личным файлам?
• Видит ли пользователь вызовы инструментов?
• Выполняется ли подписание на отдельном безопасном устройстве?

Если ответы на эти вопросы неочевидны, пользователям стоит быть осторожными. Удобство не должно требовать отказа от контроля над активами.

Более безопасный путь для ИИ и криптоиндустрии

Сообщаемое создание ByteDance Seed специализированного подразделения по безопасности и выравниванию ИИ отражает более широкий сдвиг в технологической индустрии: мощным моделям нужны отдельное управление, постоянная оценка и более сильные защитные механизмы вокруг использования инструментов.

Для криптоиндустрии ставки особенно высоки, потому что ИИ-агенты вскоре могут работать рядом с кошельками, смарт-контрактами, биржами, мостами и DeFi-протоколами. Индустрии стоит приветствовать помощь ИИ, но только при наличии четких границ авторизации и безопасных практик подписания.

Роль OneKey в такой среде проста: сохранять приватные ключи под контролем пользователя и отделять хранение активов от принятия решений ИИ. По мере того как ИИ-агенты становятся более способными, это разделение может стать одним из важнейших принципов безопасности для обычных криптопользователей.