ByteDance Seed cria unidade independente de segurança em IA: Yan Lin se reportará a Wu Yonghui, com foco no excesso de autonomia dos agentes

A decisão atribuída à ByteDance Seed de criar um departamento independente de Model-Alignment & Preparedness vai além de um simples ajuste interno de governança em IA. Para o setor cripto, ela chama atenção para uma pergunta que se torna cada vez mais urgente em 2025: o que acontece quando agentes de IA deixam de apenas responder perguntas e passam também a acionar ferramentas, executar fluxos de trabalho e, potencialmente, interagir com ativos on-chain?

Segundo relatos recentes do mercado, a nova unidade da Seed será liderada por Yan Lin, que vinha sendo responsável pelo trabalho de alinhamento do grande modelo Doubao, e se reportará diretamente a Wu Yonghui, chefe da Seed. Integrantes da antiga equipe de Responsible AI e parte da equipe de Chat devem ser incorporados à nova estrutura. Seu mandato incluiria especificações de modelos, avaliações de segurança, treinamento de alinhamento, mecanismos de proteção, monitoramento de riscos e colaboração com instituições externas de pesquisa e avaliadores independentes.

A mensagem central é clara: à medida que os modelos de IA ganham maior capacidade de raciocínio e uso de ferramentas, a segurança não pode mais se limitar a impedir respostas inadequadas em chatbots. O desafio mais difícil é garantir que agentes autônomos não ultrapassem a autorização concedida pelo usuário.

Por que a segurança de agentes de IA importa para usuários de cripto

A indústria blockchain é um dos primeiros ambientes em que softwares autônomos podem executar ações irreversíveis. Em uma aplicação web tradicional, uma operação feita por engano pode, muitas vezes, ser revertida pelo suporte ao cliente. Já uma transação em blockchain, depois de confirmada, geralmente é definitiva.

Isso torna o alinhamento de agentes de IA especialmente relevante para o universo cripto. Um agente capaz de resumir dados de mercado apresenta um risco relativamente baixo. Mas um agente que pode se conectar a uma carteira, preparar uma transação, aprovar uma permissão de token, fazer bridge de ativos, resgatar recompensas ou interagir com um protocolo DeFi opera em um ambiente de risco muito mais elevado.

É por isso que a diferença entre “segurança de chat” e “segurança de agentes” é importante. Em cripto, o perigo não está apenas em um modelo dar uma resposta ruim. O perigo está em o modelo executar uma ação que o usuário não pretendia autorizar.

Exemplos incluem:

• Assinar uma transação com permissões mais amplas do que as solicitadas
• Aprovar permissões ilimitadas de tokens para um contrato malicioso
• Interagir com um site de phishing que imita uma dApp legítima
• Mover fundos entre redes sem consentimento claro do usuário
• Executar uma estratégia baseada em dados manipulados ou prompt injection
• Acionar ferramentas externas que exponham informações privadas ou detalhes do portfólio

A ascensão de agentes de IA em trading, gestão de portfólio, análise de contratos inteligentes e operações on-chain significa que o setor precisa de um modelo de segurança mais robusto do que simplesmente confiar que “o assistente parecia útil”.

Do alinhamento de modelos ao alinhamento de transações

Alinhamento de IA geralmente significa fazer com que o comportamento do modelo seja compatível com a intenção humana, regras de segurança e restrições de política. Em cripto, essa ideia precisa ser ampliada para algo que poderíamos chamar de alinhamento de transações: a ação on-chain proposta pela IA deve corresponder à autorização explícita do usuário.

Isso exige mais do que uma confirmação em linguagem natural. Um usuário pode dizer: “Ajude-me a fazer staking deste ativo”, mas a transação pode envolver várias etapas ocultas, aprovações de tokens, chamadas de contrato ou operações cross-chain. Se um agente de IA prepara a ação, o usuário ainda precisa de uma forma confiável de verificar o que está de fato assinando.

É aí que as hardware wallets continuam sendo importantes. Um dispositivo seguro de assinatura cria uma separação entre sugestões geradas por IA e execução aprovada pelo usuário. A OneKey, por exemplo, foi projetada com foco em autocustódia e confirmação de transações, ajudando os usuários a manter suas chaves privadas offline enquanto revisam solicitações de assinatura antes que os fundos sejam movimentados. Em um futuro com agentes de IA, essa separação se torna ainda mais valiosa.

O princípio é simples: a IA pode ajudar, mas não deve se tornar a autoridade final sobre as chaves privadas.

O uso de ferramentas é a nova fronteira de segurança

Sistemas modernos de IA dependem cada vez mais do acionamento de ferramentas. Eles podem acessar navegadores, APIs, bancos de dados, ambientes de execução de código, interfaces de trading ou serviços relacionados a carteiras. Essa arquitetura torna a IA mais útil, mas também cria novas superfícies de ataque.

A comunidade de segurança já identificou riscos como prompt injection, design inseguro de ferramentas, vazamento de dados e excesso de agência. O OWASP Top 10 for Large Language Model Applications oferece uma estrutura útil para compreender essas ameaças, incluindo como instruções maliciosas podem ser escondidas em páginas da web, documentos ou fontes externas de dados.

Para usuários de cripto, prompt injection pode se tornar financeiramente perigoso. Imagine um agente de IA lendo uma página da web que contém instruções ocultas para recomendar um contrato malicioso. Ou pense em um agente que analisa a página de um token e é manipulado para gerar uma transação que beneficia um atacante.

A questão central não é se o modelo é inteligente. É se o modelo tem permissão para agir, quais ferramentas pode acessar e como suas ações são limitadas.

Por que equipes independentes de segurança em IA estão se tornando estratégicas

A suposta decisão da Seed de separar segurança e alinhamento em um departamento independente reflete uma tendência mais ampla do setor. A segurança em IA está deixando de ser uma preocupação puramente de pesquisa para se tornar uma exigência operacional.

Para empresas que desenvolvem modelos de uso geral, o desafio já não é apenas melhorar pontuações em benchmarks. Elas precisam demonstrar que sistemas mais capazes continuam controláveis em condições reais. Isso inclui avaliar capacidades perigosas, monitorar usos indevidos e aplicar controles mais rigorosos antes da implantação.

O NIST AI Risk Management Framework enfatiza governança, mapeamento, medição e gestão de riscos de IA. Esses conceitos são cada vez mais relevantes para aplicações blockchain, nas quais sistemas de IA podem interagir com contratos inteligentes, infraestrutura de mercado e ativos digitais.

A avaliação externa também é importante. Quando provedores de modelos avaliam seus próprios sistemas, incentivos internos podem enviesar o processo em favor da velocidade e do lançamento de produtos. Testes feitos por terceiros podem criar uma base de segurança mais confiável, especialmente para sistemas que podem ser integrados a fluxos financeiros.

A referência a CBRN sinaliza uma mentalidade mais ampla de preparação

O foco relatado em riscos CBRN — domínios químico, biológico, radiológico e nuclear — pode parecer distante do universo cripto. No entanto, ele mostra que os principais laboratórios de IA estão pensando em usos indevidos de alto impacto, não apenas em moderação rotineira de conteúdo.

Para blockchain, a mentalidade equivalente de preparação deve se aplicar ao uso financeiro indevido e ao abuso de infraestrutura. Agentes de IA podem reduzir a barreira técnica para atacantes ao ajudá-los a escrever mensagens de phishing, analisar vulnerabilidades em contratos inteligentes, automatizar campanhas fraudulentas ou identificar comportamentos exploráveis de usuários.

Isso não significa que a IA deva ser rejeitada. Significa que sistemas de IA usados em cripto devem ser projetados com limites rígidos:

• Nenhuma exposição de chaves privadas
• Nenhuma assinatura automática
• Nenhuma execução oculta de transações
• Nenhuma aprovação ilimitada de tokens por padrão
• Nenhuma confiança cega em dados de terceiros
• Nenhum acesso não gerenciado a APIs de carteiras
• Registros claros das decisões do agente e das chamadas de ferramentas

À medida que os modelos de IA se tornam mais poderosos, a segurança precisa se tornar mais explícita, não mais implícita.

2025: agentes de IA encontram abstração de contas, DeFi e automação on-chain

O momento dessa discussão é importante. Em 2025, usuários de cripto estão prestando mais atenção à abstração de contas, transações baseadas em intenções, agentes automatizados de trading e interfaces DeFi assistidas por IA.

A abstração de contas pode tornar carteiras mais programáveis e fáceis de usar. O roteiro de abstração de contas da Ethereum explica como contas de contratos inteligentes podem viabilizar novos modelos de transação, incluindo designs mais flexíveis de autorização e recuperação. Essas melhorias podem beneficiar os usuários, mas também tornam o desenho de permissões mais complexo.

Sistemas baseados em intenções criam outra camada de abstração. Em vez de especificar manualmente cada etapa de uma transação, os usuários podem expressar um resultado: “troque este ativo pelo melhor preço”, “rebalanceie meu portfólio” ou “mova fundos para uma rede com taxas mais baixas”. Agentes de IA se encaixam naturalmente nesse modelo, pois conseguem interpretar objetivos e coordenar ações.

Mas a abstração pode esconder riscos. Se os usuários não entendem o que está acontecendo por trás da interface, agentes maliciosos ou mal alinhados podem explorar essa lacuna. Portanto, o setor precisa combinar melhor experiência de usuário com verificação mais forte.

O futuro não deve ser “a IA faz tudo e o usuário torce para que seja seguro”. Deve ser “a IA propõe, os sistemas de segurança impõem limites e o usuário autoriza”.

Lições práticas para desenvolvedores cripto

Para equipes que constroem produtos cripto com IA, a reestruturação atribuída à Seed oferece várias lições úteis.

1. Separe crescimento de produto da governança de segurança

Segurança em IA não deve ser tratada como uma checklist de última hora. Se uma equipe de produto é recompensada apenas pela adoção, pode subestimar riscos raros, mas de alto impacto. Uma função dedicada à segurança consegue questionar premissas antes que os usuários sejam expostos.

2. Defina o que o agente não tem permissão para fazer

Especificações claras de modelo são importantes. Um agente de IA deve ter limites explícitos: quais ferramentas pode acionar, com quais contratos pode interagir, quais valores de transação exigem confirmação extra e quais ações são proibidas.

3. Torne a autorização legível por máquina

Consentimento em linguagem natural não basta. Aplicações cripto devem traduzir permissões do usuário em regras estruturadas que possam ser aplicadas programaticamente. Por exemplo, um agente pode ter permissão para simular transações, mas não para enviá-las; ou pode preparar swaps abaixo de determinado valor, mas não aprovar permissões de tokens.

4. Use simulação antes da assinatura

A simulação de transações ajuda os usuários a entender possíveis resultados antes da execução. Isso é especialmente importante quando agentes de IA geram ações em várias etapas ou interagem com contratos inteligentes desconhecidos.

5. Mantenha a assinatura isolada

Sistemas de IA não devem controlar chaves privadas. Manter a assinatura separada da tomada de decisão da IA reduz o raio de impacto caso o modelo seja manipulado, comprometido ou simplesmente esteja errado.

O que os usuários devem observar

Usuários de cripto que avaliam ferramentas movidas por IA devem fazer perguntas diretas:

• A IA consegue iniciar transações ou apenas explicá-las?
• A ferramenta solicita conexão com a carteira antes de isso ser necessário?
• As aprovações de tokens são limitadas ou ilimitadas?
• Há simulação de transações?
• A IA pode acessar dados do portfólio, histórico de navegação ou arquivos pessoais?
• As chamadas de ferramentas são visíveis para o usuário?
• A assinatura é feita em um dispositivo seguro separado?

Se essas respostas não forem claras, os usuários devem agir com cautela. Conveniência não deve exigir abrir mão do controle sobre os ativos.

Um caminho mais seguro para IA e cripto

A suposta criação, pela ByteDance Seed, de uma unidade dedicada à segurança e ao alinhamento de IA reflete uma mudança mais ampla na indústria de tecnologia: modelos poderosos precisam de governança dedicada, avaliação contínua e proteções mais fortes em torno do uso de ferramentas.

Para o setor cripto, os riscos são particularmente altos, porque agentes de IA podem em breve operar próximos a carteiras, contratos inteligentes, exchanges, bridges e protocolos DeFi. A indústria deve acolher a assistência da IA, mas apenas com limites claros de autorização e práticas seguras de assinatura.

O papel da OneKey nesse ambiente é direto: manter as chaves privadas sob controle do usuário e separar a custódia dos ativos da tomada de decisão guiada por IA. À medida que agentes de IA se tornam mais capazes, essa separação pode se tornar um dos princípios de segurança mais importantes para usuários cripto no dia a dia.