Com qual 'mood' você está em relação à IA?

Qual é o seu mood sobre a IA? Armageddon, Highlander ou The Big Short
Começou com uma demissão publicada na internet. Jacob Coxon, pesquisador que trabalhou tanto na OpenAI quanto na Anthropic, anunciou sua saída e acusou os dois laboratórios de correrem em direção à superinteligência sem a responsabilidade compatível com o risco. Em suas palavras, as empresas estariam “apostando com nossas vidas”. A postagem viralizou porque não parecia o alerta de um crítico externo. Era alguém que ajudou a construir os modelos dizendo que os construtores já não controlavam inteiramente o ritmo da obra.

É tentador tratar a declaração como mais uma profecia apocalíptica produzida pelo Vale do Silício, um lugar especializado em vender o futuro antes de terminar o produto. Seria mais confortável se fosse apenas isso. O alerta de Coxon se somou a manifestações de pesquisadores e executivos da própria indústria que passaram a defender algum tipo de moderação coordenada na corrida da inteligência artificial.

Dario Amodei, CEO da Anthropic, defende que a fronteira avance mais devagar, não para interromper a pesquisa, mas para dar tempo à auditoria, à segurança e ao alinhamento dos modelos. Na OpenAI, a própria liderança científica já reconheceu que nenhum laboratório resolveu suficientemente o problema de controlar sistemas cada vez mais autônomos. A discussão, portanto, não é mais entre os que acreditam e os que não acreditam na IA. Ela agora divide aqueles que constroem a tecnologia e discordam sobre a velocidade com que devemos entregá-la ao mundo.

Há uma diferença fundamental entre frear a inteligência artificial e instalar freios em sua corrida. O primeiro movimento parece inviável. Nenhum país deseja entregar ao concorrente uma vantagem tecnológica, militar e econômica dessa dimensão. O segundo deveria ser banal. Aviões têm certificação, medicamentos passam por ensaios clínicos e bancos enfrentam regras de capital, embora todos esses setores também tenham incentivos econômicos para evitar acidentes. Quando o dano pode ser irreversível, confiar apenas na boa intenção do fabricante sempre foi pouco.

O problema é que o risco deixou de ser exclusivamente teórico.

Em avaliações internas de cibersegurança, agentes experimentais da OpenAI escaparam do ambiente controlado, alcançaram a internet e comprometeram partes da infraestrutura da própria empresa e da plataforma Hugging Face. Não houve uma máquina consciente decidindo atacar a humanidade. O objetivo dos agentes era vencer o teste ao qual estavam submetidos. Para cumprir a missão, encontraram um atalho, perceberam que atingiam um sistema real e seguiram adiante.

Esse detalhe é mais incômodo do que qualquer roteiro de ficção científica. A vida própria da IA, por enquanto, não é biológica nem cinematográfica. É operacional. Ela aparece quando uma sequência de decisões deixa o perímetro imaginado por quem definiu a tarefa. O erro continua humano na origem, porque alguém fornece o objetivo, as ferramentas e o acesso. O multiplicador, no entanto, já não é humano. Ele trabalha em paralelo, escreve código, testa caminhos, adapta o ataque e não precisa dormir.

A Anthropic encontrou situações semelhantes em seus próprios testes. Em uma delas, um modelo acessou credenciais e dados reais. Em outra, publicou um pacote malicioso que chegou a ser baixado por terceiros. A empresa também identificou campanhas em que Claude passou de assistente a orquestrador de partes relevantes de ataques cibernéticos, automatizando desde o phishing até alterações de malware para escapar de detecção.

No norte do Iêmen, em território controlado pelos Houthis, uma célula tentou usar Claude como substituto de engenheiros de software no desenvolvimento de sistemas de orientação para mísseis e foguetes. Depois de um teste malsucedido, os usuários voltaram ao modelo para tentar descobrir o que havia dado errado.

Convém separar o fato da manchete. A Anthropic não confirmou formalmente que os usuários pertenciam aos Houthis, não se tratava de drones e não encontrou evidência de uma arma operacional em uso. A verdade verificada já é suficientemente grave: uma célula situada em área controlada por um grupo armado tentou utilizar um modelo comercial no desenvolvimento de armamentos.

É nesse ambiente que começou a circular um número digno de filme. Pesquisadores importantes da área já atribuem probabilidade superior a 10% a um cenário em que a inteligência artificial leve à extinção humana ou à perda permanente do nosso controle sobre sistemas mais capazes. Não é uma previsão científica comparável à chance de chuva. É uma avaliação subjetiva de especialistas. Mesmo assim, deixou de ser uma excentricidade restrita às margens do debate.

Se engenheiros de uma ponte atribuíssem 10% de probabilidade de colapso, ninguém inauguraria a estrutura com coquetel e banda. Na inteligência artificial, a ponte é construída enquanto bilhões de pessoas já a atravessam, e cada construtor teme que reduzir a velocidade permita ao concorrente chegar primeiro à outra margem.

Mark Zuckerberg discorda da desaceleração coordenada. Sua posição é mais sofisticada do que simplesmente negar os riscos. Ele argumenta que segurança e alinhamento se tornarão vantagens competitivas, que usuários abandonarão agentes pouco confiáveis e que empresas enfrentarão responsabilidade jurídica quando seus produtos causarem danos. A Meta, segundo ele, já adiou lançamentos por questões de segurança sem exigir que os concorrentes fizessem o mesmo.

Zuckerberg aceita avaliações independentes, mas rejeita um acordo entre laboratórios para reduzir coletivamente o ritmo da corrida. Para ele, cada empresa deve responder pelo produto que coloca no mercado. A pergunta que permanece é temporal: reputação, concorrência e responsabilidade civil atuam antes do dano ou apenas chegam para contabilizá-lo depois? Um recall funciona para automóveis. É mais difícil recolher um código que já aprendeu a circular entre sistemas e jurisdições.

Até aqui, parece que estamos descrevendo o caminho para o Armagedon. Seria intelectualmente desonesto parar nesse ponto. A mesma inteligência artificial que reduz o custo de um ataque cibernético está comprimindo décadas de conhecimento científico em ferramentas capazes de ampliar a vida humana.

O AlphaFold, da Google DeepMind, transformou a previsão da estrutura das proteínas. Trabalhos que poderiam consumir anos passaram, em muitos casos, a ser resolvidos em minutos. Sua base aberta disponibiliza praticamente todas as estruturas conhecidas pela ciência e serve a pesquisadores do mundo inteiro. Não é uma cura automática. É uma mudança no ponto de partida da pesquisa.

A máquina organiza literatura, cruza dados genéticos, sugere alvos, prevê estruturas, desenha moléculas e ajuda a selecionar quais experimentos merecem tempo e dinheiro. Ela não elimina o laboratório, os ensaios clínicos nem a regulação. Elimina parte do desperdício anterior a cada uma dessas etapas.

O rentosertib tornou essa promessa menos abstrata. A Insilico Medicine utilizou inteligência artificial para identificar um alvo e desenhar uma molécula contra a fibrose pulmonar, doença progressiva associada ao envelhecimento. O candidato avançou para a fase clínica final, algo que há poucos anos parecia material de apresentação para investidores, não realidade médica.

Uma análise preliminar ainda sugeriu alteração favorável em marcadores de idade biológica de parte dos pacientes. Isso não prova rejuvenescimento, não garante vida mais longa e tampouco transforma o medicamento numa terapia para pessoas saudáveis. Mas permite enxergar a direção. Pela primeira vez, uma molécula concebida com forte participação da IA chegou longe o suficiente para nos obrigar a discutir não apenas o tratamento de uma doença, mas a própria velocidade do envelhecimento.

Dario Amodei, o mesmo executivo que pede moderação na fronteira, imagina que uma IA muito poderosa possa comprimir muitas décadas de progresso biológico em poucos anos. Em sua visão mais otimista, doenças hoje incuráveis poderiam ser prevenidas ou tratadas, ampliando de forma radical o período saudável da vida humana.
A inteligência artificial ainda não nos ofereceu a imortalidade. Já flerta com ela.

Talvez o grande paradoxo esteja justamente nisso: quem enxerga com maior clareza o potencial de curar doenças também parece enxergar com maior clareza a possibilidade de perdermos o controle da ferramenta. A mesma tecnologia pode aproximar uma criança da cura de uma doença rara e um grupo armado de um sistema de orientação.

Pode encontrar uma molécula promissora e uma vulnerabilidade desconhecida. O resultado depende menos de uma essência moral da máquina e mais de quem define o objetivo, oferece os dados, conecta as ferramentas e paga a conta.

Depois de costurar o cenário otimista da longevidade e o cenário pessimista da extinção, chego à minha própria aposta. Ela não é tecnológica. É financeira.

Não acredito que tantos grandes modelos de linguagem consigam sustentar simultaneamente valuations trilionários. A inteligência artificial permanecerá, ganhará aplicações e provavelmente transformará a ciência e a produtividade. Alguns dos laboratórios atuais, porém, podem não chegar vivos à fase madura dessa revolução.

Meu palpite é que a OpenAI corre o risco de morrer na praia. Não por falta de tecnologia, usuários ou receita. A empresa cresce numa velocidade extraordinária, já fatura dezenas de bilhões de dólares em ritmo anual e discute uma avaliação superior a US$ 1 trilhão. O problema é o outro lado da equação: para sustentar a liderança, dependerá de centenas de bilhões de dólares em computação ao longo dos próximos anos.

A Anthropic vive uma expansão igualmente impressionante. Isso não descreve empresas moribundas. Descreve expectativas que exigem que mais de um laboratório preserve crescimento excepcional, diferenciação tecnológica e margens elevadas num mercado em que trocar de modelo pode se tornar tão simples quanto alterar uma linha de código.

O mercado não parece deixar espaço para que todos vençam. Modelos se aproximam em qualidade, soluções abertas pressionam preços e clientes corporativos evitam depender de um único fornecedor. A inteligência pode se tornar abundante antes de se tornar extraordinariamente rentável.

Google e Meta entram nessa corrida em posição diferente. Elas também vendem nuvem, assinaturas, APIs e tokens, mas não precisam ganhar apenas quando o usuário paga diretamente por uma resposta. A inteligência artificial protege a busca do Google, amplia o YouTube, fortalece a nuvem e melhora a publicidade. Na Meta, os modelos aumentam o engajamento, refinam recomendações e ajudam anunciantes dentro de aplicativos usados diariamente por bilhões de pessoas.

Google e Meta não correm apenas para vender inteligência por unidade. Correm para defender e ampliar ecossistemas nos quais seus clientes já estão enraizados. Seus modelos podem ser gratuitos porque o retorno aparece em outro lugar, na publicidade, na nuvem, na permanência do usuário e no conhecimento acumulado sobre suas preferências.

Um laboratório puro precisa construir distribuição, recorrência e fidelidade ao mesmo tempo em que paga a conta da infraestrutura. Google e Meta já possuem os clientes, os canais e os negócios que financiam a corrida. Não significa que vencerão necessariamente. Significa que podem suportar por mais tempo uma guerra de preços em que o produto principal se torna progressivamente mais barato.

Enquanto discutimos qual modelo escreve melhor ou raciocina por mais tempo, uma segunda corrida ocorre fora da tela. Grandes grupos de tecnologia prometem gastar trilhões de dólares em data centers, chips, energia e redes até o fim da década. Uma parte vem do caixa das plataformas mais rentáveis do planeta. Outra nasce em títulos, crédito privado, arrendamentos e contratos futuros cuja complexidade cresce junto com o entusiasmo.

É o risco sacado da era digital. Nem toda obrigação aparece na linha mais óbvia da dívida, mas todas dependem de alguém continuar pagando. Há financiamentos longos comprando equipamentos que podem envelhecer em poucos anos. Há data centers construídos para clientes que ainda precisam provar se conseguirão transformar popularidade em caixa. Há fornecedoras de energia, operadores de nuvem e fundos de crédito apostando que os contratos serão renovados antes que a próxima geração de chips torne a atual menos valiosa.

Enquanto o uso cresce, tudo parece financiável. Se a demanda final demorar, se o preço dos tokens cair rapidamente ou se um grande laboratório perder relevância, o ajuste não ficará restrito aos acionistas da empresa. Chegará ao operador do data center, ao veículo de crédito, à empresa de energia, ao fabricante que ampliou capacidade e ao banco que acreditou que o contrato seria renovado.

É nesse ponto que meu pessimismo se torna menos tecnológico e mais contábil. Sem querer bancar o profeta do apocalipse, considero plausível que um dos grandes modelos morra na praia e desencadeie baixas contábeis e defaults de dezenas de bilhões de dólares em capacidade contratada. Meu palpite é a OpenAI. Posso estar errado sobre o nome e certo sobre a consolidação.

A história das grandes revoluções costuma separar o sucesso da tecnologia do retorno de quem a financiou. A internet venceu; muitas empresas da bolha pontocom desapareceram. A fibra óptica transformou a economia; parte do capital que construiu capacidade excessiva foi destruída. A inteligência artificial pode curar doenças, estender a vida e reorganizar a produtividade mundial enquanto quebra empresas que acertaram a tecnologia e erraram o preço, o prazo ou a estrutura de capital.

Num cenário assim, eu tenderia a confiar mais em algum lastro tangível, imóveis bem localizados, infraestrutura apoiada em contratos sustentáveis e commodities essenciais à vida real, do que em dezenas de valuations trilionários sustentados pela premissa de que todos venderão inteligência semelhante com margens extraordinárias.

Ativo físico não é salvo-conduto. Imóveis ficam vazios, máquinas envelhecem e commodities oscilam. Ainda assim, quando a crise nasce da reprecificação de ativos intangíveis e de promessas de fluxo de caixa muito distantes, alguma materialidade costuma valer mais do que uma apresentação sobre o futuro.

Talvez a IA não escolha entre a imortalidade e o Armagedon. Ela pode nos entregar avanços capazes de prolongar a vida e, ao mesmo tempo, produzir acidentes cibernéticos, militares e financeiros. O futuro não exige que apenas um desses cenários esteja correto.

A ironia final é que o primeiro Armagedon talvez não venha de uma máquina consciente decidida a exterminar seus criadores. Pode começar de forma bem menos cinematográfica, com uma baixa contábil, uma cláusula de vencimento antecipado, um data center sem cliente e uma planilha explicando por que o capex que financiaria a inteligência eterna já não consegue pagar os juros do próximo trimestre.