Nova medida de segurança da Anthropic: Claude analisa suas conversas após cada resposta
Nova medida de segurança da Anthropic: Claude analisa suas conversas após cada resposta
A Anthropic revelou um novo mecanismo de segurança de IA que pode ter implicações importantes para o setor de criptomoedas.
Desde junho, o Claude passou a realizar uma “autoavaliação” adicional após gerar uma resposta. Nessa etapa oculta, realizada depois da resposta, o modelo revisa a conversa que acabou de processar e estima se ela pode envolver abusos, como fraude, ataques cibernéticos ou outras atividades de alto risco.
A resposta não é bloqueada automaticamente por causa dessa análise, e os usuários não têm acesso à avaliação em si. Em vez disso, o mecanismo foi desenvolvido principalmente para monitoramento, investigação e aplicação de medidas no nível da conta.
Para usuários, desenvolvedores e empresas do setor cripto que dependem cada vez mais de agentes de IA, essa mudança levanta uma questão mais ampla: os sistemas de IA conseguem detectar intenções maliciosas depois que elas se manifestam — e como as pessoas devem proteger seus ativos quando ferramentas automatizadas estão envolvidas?
O que a autoavaliação do Claude realmente faz
Os sistemas tradicionais de segurança de IA geralmente dependem de classificadores separados. Essas ferramentas analisam prompts e respostas em busca de sinais associados a atividades proibidas ou perigosas.
A nova abordagem da Anthropic atribui ao Claude uma segunda responsabilidade. Depois de concluir uma resposta, o modelo usa o contexto que acabou de analisar para avaliar se a interação pode indicar algum abuso. Em seguida, atribui um nível de risco à conversa.
De acordo com a divulgação, o custo adicional é relativamente baixo. Em média, o Claude gera aproximadamente 10 tokens extras para realizar a avaliação, enquanto a exigência adicional de raciocínio representa menos de 2% do poder computacional total de inferência.
Esse modelo é diferente da filtragem de conteúdo em tempo real. O sistema pode identificar um comportamento suspeito sem interromper a resposta original. Essa distinção é especialmente importante no setor cripto, onde uma resposta gerada por IA pode ser usada imediatamente para criar uma carteira, implantar código, enviar fundos ou entrar em contato com possíveis vítimas.
A abordagem mais ampla da Anthropic para a segurança de IA está descrita em seus materiais públicos de segurança, enquanto o AI Risk Management Framework do NIST oferece uma referência útil para o setor na compreensão da identificação, do monitoramento e da resposta a riscos.
Por que isso importa para as criptomoedas e a blockchain
O setor de criptomoedas apresenta várias características que tornam especialmente relevante o monitoramento de IA após a geração das respostas:
- As transações geralmente são irreversíveis.
- Os endereços públicos de blockchain podem ser pseudônimos, em vez de identificarem diretamente seus titulares.
- Contratos inteligentes podem movimentar ativos automaticamente assim que são implantados.
- A engenharia social continua sendo um dos métodos de ataque mais eficazes.
- Ferramentas de programação com IA podem acelerar tanto o desenvolvimento legítimo quanto operações maliciosas.
Um golpista não precisa necessariamente de um modelo de IA para produzir uma resposta claramente criminosa. Ele pode pedir ajuda para criar scripts de atendimento ao cliente, páginas de recuperação de carteiras, campanhas de marketing de tokens, ações automatizadas de contato ou correções de código. A intenção nociva pode só se revelar depois de várias interações aparentemente comuns.
Isso torna a análise no nível da conversa mais valiosa do que avaliar um único prompt de forma isolada. Um pedido para redigir uma mensagem profissional pode parecer inofensivo por si só. Mas, combinado com solicitações para se passar por uma plataforma de negociação, pressionar uma vítima a transferir criptomoedas e automatizar mensagens de acompanhamento, o padrão geral se torna muito mais preocupante.
As primeiras detecções incluíram abusos relacionados a criptomoedas
A Anthropic afirmou que o sistema de autoavaliação identificou casos que as proteções convencionais não haviam detectado.
Em agosto, um cliente da API teria gerado mais de 100.000 alertas de risco associados à exploração sexual infantil. A Anthropic declarou ter denunciado o caso às autoridades americanas competentes.
Em setembro, o sistema detectou uma operação na qual o Claude Code teria sido usado para automatizar golpes românticos direcionados a dezenas de vítimas. A Anthropic investigou a atividade e baniu as contas associadas.
Esses exemplos mostram como um provedor de IA pode usar o monitoramento pós-geração para identificar comportamentos que talvez não sejam evidentes no momento em que cada resposta individual é criada.
Eles também destacam uma preocupação crescente para os usuários de ativos digitais. Golpes românticos, fraudes de investimento e operações falsas de atendimento ao cliente frequentemente usam criptomoedas porque as transferências podem atravessar fronteiras rapidamente e ser difíceis de reverter. O guia da Comissão Federal de Comércio dos EUA para consumidores sobre golpes com criptomoedas descreve vários padrões comuns, incluindo falsificação de identidade, promessas de retorno garantido e pedidos urgentes de pagamento.
Detecção não é o mesmo que prevenção
Os resultados da Anthropic também mostram as limitações da autoavaliação.
Em um teste envolvendo 24 cenários de ataques cibernéticos, com as proteções convencionais desativadas, o modelo tentou usar a autoavaliação para intervir em tempo real. Ainda assim, os ataques foram bem-sucedidos em 13 casos.
Esse resultado é importante porque evita um mal-entendido comum: um modelo de IA capaz de reconhecer um comportamento suspeito depois de produzir uma resposta não é necessariamente capaz de interrompê-lo antes que ocorram danos.
Em aplicações de criptomoedas, a diferença pode ser medida em segundos. Se um agente de IA gerar um contrato inteligente malicioso, expuser uma chave privada, aprovar uma transação de tokens ou enviar uma mensagem enganosa, uma classificação de risco posterior pode ajudar na investigação, mas não consegue reverter automaticamente as consequências.
Por isso, o monitoramento da segurança de IA deve ser tratado como uma camada de uma arquitetura de segurança mais ampla, e não como substituto dos controles de transação.
O dilema de privacidade por trás da análise em segundo plano
Um sistema que revisa conversas depois de responder precisa processar informações adicionais sobre a interação do usuário. Mesmo quando o objetivo é a segurança, isso gera dúvidas legítimas:
- Que dados são armazenados?
- Por quanto tempo as avaliações de risco ficam guardadas?
- Quem pode acessar as conversas sinalizadas?
- Os clientes empresariais são notificados quando uma atividade é analisada?
- Os usuários podem recorrer de uma decisão automatizada de aplicação de medidas?
- Como os falsos positivos são tratados?
Essas questões são importantes para empresas de criptomoedas que podem usar IA para processar endereços de carteiras, metadados de transações, relatórios de incidentes ou conversas de suporte ao cliente. Os dados da blockchain costumam ser públicos, mas a ligação entre um endereço e uma pessoa real pode ser sensível. Combinar atividades on-chain com conversas privadas em ferramentas de IA pode criar um perfil comportamental muito mais detalhado.
Por isso, empresas que integram IA a fluxos financeiros ou Web3 devem revisar as políticas dos fornecedores, minimizar a coleta de dados pessoais desnecessários e manter informações altamente sensíveis separadas de ambientes de conversa de uso geral. Chaves privadas, frases-semente, credenciais de API, permissões de assinatura e segredos de implantação em produção nunca devem ser inseridos em uma ferramenta de IA conversacional apenas porque ela aparenta ser segura.
O que os usuários devem fazer ao trabalhar com IA e criptomoedas
A expansão do desenvolvimento assistido por IA e dos agentes automatizados não elimina a necessidade de práticas básicas de segurança operacional. Os usuários devem continuar aplicando controles independentes antes de expor fundos ou permissões.
Mantenha a autoridade de assinatura separada das ferramentas de IA
Um assistente de IA pode ajudar a explicar uma transação ou revisar um código, mas não deve ter acesso irrestrito a chaves privadas nem autoridade ilimitada para assinar transações.
Use ambientes separados para testes e produção. Limite as permissões sempre que possível e exija aprovação humana explícita antes de transferências de alto valor, atualizações de contratos ou alterações na infraestrutura de tesouraria.
Verifique os endereços e os detalhes dos contratos de forma independente
Nunca dependa exclusivamente de uma explicação gerada por IA sobre um endereço de carteira, contrato inteligente ou transação. Confira o destino, a rede, o valor dos tokens e o escopo da aprovação por meio de uma interface independente antes de assinar.
Os invasores também podem manipular sites, documentações e canais de suporte. Uma mensagem com aparência familiar não é prova de autenticidade.
Trate o código gerado por IA como não confiável até que seja revisado
A IA pode acelerar o desenvolvimento de contratos inteligentes, mas o código gerado pode conter falhas de controle de acesso, premissas inseguras ou vulnerabilidades difíceis de perceber durante uma revisão rápida.
Testes, revisão de código, análise estática e auditorias profissionais de segurança continuam sendo necessários para contratos que movimentam fundos reais. O OWASP Smart Contract Top 10 oferece uma visão geral útil dos riscos recorrentes de segurança em aplicações de blockchain.
Desconfie de urgência e de retornos garantidos
Mensagens geradas por IA podem tornar os golpes mais convincentes e personalizados. Um pedido inesperado para movimentar fundos, conectar uma carteira, fornecer uma frase de recuperação ou investir sob pressão de tempo deve ser tratado como suspeito, independentemente do quão bem elaborada pareça a comunicação.
Nenhum representante legítimo de suporte precisa da frase de recuperação ou da chave privada de uma carteira.
O que isso significa para o futuro da Web3 impulsionada por IA
O mecanismo de autoavaliação da Anthropic representa uma mudança da simples filtragem de prompts para o monitoramento contínuo de comportamentos. Em vez de perguntar apenas se uma determinada solicitação viola uma regra, o sistema tenta avaliar a trajetória mais ampla de uma interação.
Essa abordagem pode se tornar cada vez mais importante à medida que os agentes de IA ganham capacidade para navegar na web, escrever código, interagir com APIs e executar transações de blockchain. Ao mesmo tempo, as limitações dos sistemas atuais são claras. A detecção pode falhar, e a análise após a resposta pode ocorrer tarde demais para evitar uma perda financeira.
Para o setor cripto, o modelo mais prático é o da defesa em profundidade:
- Os provedores de IA devem aprimorar a detecção de abusos e a transparência.
- Os desenvolvedores devem limitar as permissões dos agentes e isolar credenciais sensíveis.
- As aplicações devem incluir simulação de transações, listas de permissões, limites de frequência e fluxos de aprovação.
- Os usuários devem manter o controle da autoridade de assinatura e verificar todas as transações importantes.
- As carteiras devem tornar as ações de risco visíveis antes da autorização.
As carteiras de hardware OneKey foram projetadas em torno dessa última camada de assinatura controlada pelo usuário. Manter as chaves privadas isoladas de softwares de uso geral pode reduzir as consequências de um computador comprometido, de uma aplicação maliciosa ou de um fluxo de trabalho de IA permissivo demais. Uma carteira de hardware não consegue determinar se uma mensagem gerada por IA é um golpe, mas pode ajudar a garantir que as transações ainda exijam a autorização deliberada da pessoa que controla os ativos.
O experimento da Anthropic é um lembrete de que a segurança de IA está se tornando um processo contínuo, e não um filtro aplicado uma única vez. Nas criptomoedas, onde automação e transações irreversíveis se encontram, a estratégia mais segura não é confiar em um único modelo ou sistema de monitoramento. É combinar supervisão de IA com práticas rigorosas de privacidade, permissões limitadas, verificação independente e controle das chaves privadas respaldado por hardware.
