Altman vs. Amodei: na era da superinteligência, os humanos estarão no controle — ou serão tratados como animais de estimação?
Altman vs. Amodei: na era da superinteligência, os humanos estarão no controle — ou serão tratados como animais de estimação?
O que acontecerá se a inteligência artificial se tornar melhor do que os seres humanos em praticamente todas as tarefas de valor econômico? A resposta não depende apenas da riqueza que a IA será capaz de gerar, mas também de quem controlará o acesso a ela.
Sam Altman, CEO da OpenAI, defende que os seres humanos devem manter o controle sobre o próprio futuro, mesmo que isso exija limitar o desenvolvimento de uma IA superinteligente. Seu alerta se dirige a uma possibilidade específica: o surgimento de uma sociedade na qual um sistema de IA avalia o comportamento humano e determina quais recompensas cada pessoa deve receber.
A ideia contestada por Altman aparece em um ensaio publicado em 2024 por Dario Amodei, CEO da Anthropic. No entanto, essa aparente divergência precisa ser contextualizada. Amodei apresentou a distribuição de recursos orientada por IA como um possível modelo econômico, e não como uma recomendação definitiva, além de reconhecer que esse tipo de arranjo poderia resultar em exploração ou em cenários distópicos.
Para os usuários de criptoativos, o debate levanta uma questão prática: se os sistemas inteligentes se tornarem centrais para a economia, as pessoas ainda poderão possuir, movimentar e utilizar seus ativos sem precisar pedir permissão a esses sistemas?
A questão econômica por trás do debate sobre IA
Em Machines of Loving Grace, Amodei imagina um futuro no qual a IA realiza a maior parte do trabalho de forma mais eficiente e barata do que os seres humanos. Se isso acontecer, os salários talvez deixem de ser um mecanismo confiável para distribuir os benefícios da produção econômica.
Uma possível resposta seria a renda básica universal: as pessoas receberiam recursos independentemente de terem ou não um emprego remunerado. Outra possibilidade, mais preocupante, seria distribuir a riqueza gerada pela IA com base em avaliações sobre quais atividades humanas merecem apoio.
A diferença é significativa. Um sistema que garante recursos às pessoas segundo regras que elas conseguem compreender e contestar não é o mesmo que condicionar o acesso a uma avaliação opaca de seu comportamento.
A objeção de Altman se concentra justamente nessa perda de autonomia. A questão não é apenas saber se um sistema de IA seria capaz de proporcionar conforto material. O que está em jogo é se as pessoas continuariam exercendo autoridade real sobre as escolhas, instituições e recursos que moldam suas vidas.
Por que a propriedade importa em uma economia movida por IA
À medida que os agentes de IA se tornam mais capazes de realizar pesquisas, fazer compras e gerenciar fluxos de trabalho, eles também podem assumir um papel cada vez maior nas atividades financeiras. Uma empresa poderia, por exemplo, autorizar um agente a pagar por serviços de computação em nuvem, enquanto uma pessoa poderia utilizá-lo para administrar transações rotineiras.
Essa conveniência evidencia uma distinção importante: um agente de IA pode agir em nome do usuário sem ser proprietário de seus ativos nem ter autoridade irrestrita sobre eles.
Carteiras de criptoativos e contratos inteligentes permitem expressar essa distinção em código:
- O usuário pode manter os ativos em uma conta sob seu controle, em vez de deixá-los inteiramente nas mãos de um prestador de serviços.
- Um aplicativo pode solicitar permissão para interagir com os ativos, embora o usuário ainda precise avaliar o alcance dessa autorização.
- Contratos inteligentes podem impor condições predefinidas, como limites de gastos ou a exigência de múltiplas aprovações.
- Blockchains públicas podem tornar determinadas transações e regras verificáveis de forma independente.
Nenhum desses recursos garante, por si só, um resultado justo. Ainda assim, eles podem oferecer aos usuários meios para separar assistência de autoridade — um princípio valioso quando o software toma decisões em velocidade de máquina.
Agentes de IA precisam de permissões, não de acesso ilimitado
Para ser útil no universo dos criptoativos, um agente de IA talvez precise ter a capacidade de iniciar transações. No entanto, conceder a ele acesso a uma chave privada sem restrições pode colocar toda a carteira em risco caso o agente seja comprometido, manipulado ou simplesmente cometa um erro.
Uma arquitetura mais segura começa por limitar aquilo que o agente pode fazer. Dependendo da carteira e da infraestrutura utilizadas, isso pode envolver:
- Definir limites de gastos para determinado período ou tarefa.
- Restringir os destinos a endereços ou contratos previamente aprovados.
- Exigir aprovação humana para transações maiores ou fora do padrão.
- Separar os fundos usados pelo agente dos ativos mantidos a longo prazo.
- Revogar permissões quando um agente ou aplicativo deixar de ser confiável.
A abstração de contas é uma das áreas de desenvolvimento da Ethereum que pode viabilizar comportamentos mais flexíveis para as contas. O padrão ERC-4337 descreve uma abordagem baseada em contas de contratos inteligentes com lógica de validação personalizável. Esse tipo de arquitetura pode ajudar os desenvolvedores a criar fluxos de autorização mais específicos, embora as proteções disponíveis dependam da implementação da carteira e das regras efetivamente ativadas pelo usuário.
Não existe um mecanismo universal capaz de eliminar todos os riscos. Um limite de gastos só é útil se estiver configurado corretamente, e um contrato malicioso ou uma interface comprometida ainda podem induzir o usuário a conceder permissões perigosas.
Transparência é valiosa, mas não equivale a controle
A tecnologia blockchain às vezes é apresentada como uma solução automática para o problema do poder centralizado. Na prática, a realidade é mais complexa.
Uma transação pode estar visível na blockchain, enquanto a decisão que a originou permanece opaca. Um sistema de IA pode recorrer a um modelo proprietário, a dados privados ou a critérios não divulgados para decidir quem receberá determinado pagamento. Registrar esse pagamento em um livro-razão público não revela se a decisão foi razoável.
Da mesma forma, um contrato inteligente pode executar regras de maneira consistente sem que essas regras sejam justas. Se um pequeno grupo puder alterar o contrato, controlar os dados dos quais ele depende ou bloquear o acesso por meio de uma interface dominante, os usuários talvez tenham menos autonomia do que o registro em blockchain sugere.
Em qualquer sistema financeiro associado à IA, algumas perguntas são essenciais:
- Quem pode alterar as regras?
- Quais dados influenciam uma decisão?
- Os usuários conseguem compreender e contestar um resultado?
- As pessoas podem retirar seus ativos ou trocar de prestador de serviços?
- O que acontece se o sistema de IA ou seu operador falhar?
Essas questões são tão importantes quanto a velocidade das transações ou o grau de automação. O controle humano exige tanto acesso técnico quanto instituições que tornem esse acesso realmente significativo.
O papel da autocustódia
A autocustódia atribui diretamente aos usuários a responsabilidade pelas chaves que autorizam as transações. Em uma economia cada vez mais intermediada por serviços automatizados, isso pode estabelecer um limite importante: um assistente de IA pode recomendar uma ação, mas o proprietário dos ativos mantém o poder de decidir se deseja ou não assiná-la.
Uma carteira física como a OneKey pode ajudar a preservar essa separação, mantendo as chaves privadas em um dispositivo dedicado e exigindo que as transações sejam aprovadas por meio do fluxo de assinatura da carteira. Ela não é capaz de avaliar se uma recomendação feita pela IA é sensata, nem pode proteger um usuário que, após ser enganado, aprove uma transação maliciosa. Portanto, continua sendo necessário verificar os detalhes de cada transação e proteger adequadamente as informações de recuperação.
Para experiências cotidianas com agentes de IA, manter uma quantidade limitada de fundos em uma carteira separada e reservar os ativos de longo prazo para aprovações mais criteriosas pode reduzir a exposição a riscos. A configuração ideal dependerá dos ativos, aplicativos e ameaças envolvidos.
O objetivo é a autonomia, não apenas a abundância
O debate entre Altman e Amodei não se resume a uma escolha simples entre acolher ou rejeitar a IA. Tanto seu potencial econômico quanto seus riscos merecem atenção séria. A questão mais difícil é como garantir que a crescente capacidade das máquinas amplie as escolhas humanas, em vez de substituí-las silenciosamente.
Os criptoativos não podem resolver essa questão por conta própria. Ainda assim, sua ênfase na propriedade, na portabilidade dos ativos e na autorização explícita pode contribuir para a criação de sistemas nos quais a IA funcione como ferramenta — e não como autoridade final sobre aquilo que as pessoas podem fazer com seus próprios recursos.
