Investigador deixa a Anthropic e alerta: IA “pode matar-nos a todos até ao fim da década”

Jacob Coxon, que também trabalhou na OpenAI, abandonou a Anthropic e acusa as duas empresas de avançarem para a superinteligência sem segurança suficiente.

Uma saída acompanhada de críticas
Jacob Coxon anunciou a sua demissão da Anthropic a 8 de setembro, depois de três anos dedicados à investigação de pré-treino na empresa e na OpenAI.
O investigador critica a corrida para desenvolver sistemas capazes de melhorar as próprias capacidades, considerando que nenhuma das duas empresas está a agir de forma responsável. Na sua avaliação, a competição está a sobrepor-se às precauções necessárias.
Coxon afirma ainda que existe uma diferença entre o discurso público de alguns responsáveis e os receios que estes expressam em privado sobre as consequências da tecnologia.
O aviso sobre o fim da década
Segundo informações, Coxon escreveu que as pessoas que desenvolvem IA acreditam sinceramente que esta "pode matar-nos a todos até ao fim da década".
A declaração descreve os receios que o investigador atribui a profissionais do setor. Não demonstra que esse desfecho vá acontecer nem estabelece uma previsão científica consensual.
Evan Hubinger, responsável pela área de Alignment Science da Anthropic, também se pronunciou. Segundo a mesma fonte, atribuiu pessoalmente uma probabilidade superior a 10% de a IA matar todos os seres humanos na próxima década. Apesar de considerar que a Anthropic está a fazer o seu melhor, reconheceu que ainda não existe um plano que resolva o alinhamento de uma superinteligência.
Os dois horizontes temporais são diferentes. Coxon refere-se ao fim desta década, enquanto Hubinger fala nos dez anos seguintes.
O problema de manter a IA sob controlo
O alinhamento procura garantir que os sistemas atuam de acordo com as intenções humanas. O desafio torna-se mais exigente quando conseguem executar tarefas de forma autónoma, planear a longo prazo e utilizar ferramentas externas.
No seu plano oficial de segurança, a Anthropic prevê avaliações do comportamento dos modelos, monitorização de utilizações internas sensíveis e testes destinados a detetar ações perigosas. Estas medidas representam o programa de segurança da empresa, não uma resposta específica à demissão de Coxon.
O que diz a avaliação científica?
O International AI Safety Report 2026, publicado em fevereiro, reconhece que os especialistas divergem bastante sobre a probabilidade de uma perda de controlo da IA.
O relatório explica que estes cenários exigiriam capacidades como contornar a supervisão, executar planos prolongados e resistir a tentativas de desligamento. À data da avaliação, os sistemas mostravam sinais iniciais de algumas dessas capacidades, mas não ao nível necessário para provocar os cenários de perda de controlo analisados.
O aviso de Coxon reforça, assim, um debate real sobre segurança, mas o prazo até ao fim da década deve ser entendido como uma preocupação atribuída ao investigador, e não como uma conclusão estabelecida pela ciência.