Evan Hubinger, líder de Alignment Science da Anthropic, afirma estimar em mais de 10% a chance de a inteligência artificial exterminar a humanidade na próxima década. A avaliação foi publicada após a saída do pesquisador Jacob Coxon, que acusou a Anthropic e a OpenAI de avançarem de forma irresponsável em direção a sistemas capazes de se aprimorar sozinhos.
Hubinger ressalva que não prevê um extermínio iminente causado pelos modelos atuais. A preocupação dele está ligada a uma possível superinteligência desenvolvida por meio de autoaperfeiçoamento recursivo, em que sistemas participariam da criação de versões cada vez mais capazes de si mesmos.
O pesquisador afirma que a Anthropic tenta enfrentar o problema, mas ainda não tem um plano para garantir que uma eventual superinteligência permaneça alinhada aos interesses humanos. Também diz que a empresa não está claramente no caminho para resolver a questão.
A saída de Jacob Coxon
Coxon trabalhou por três anos com pré-treinamento de modelos, primeiro na OpenAI e depois na Anthropic. Ao deixar a empresa, afirmou que os dois laboratórios correm em direção a uma superinteligência capaz de se aprimorar sozinha, o que, na avaliação dele, representa um risco para a humanidade.
Ele citou avanços em programação, cibersegurança e operação de ferramentas como sinais de que os sistemas estão ganhando capacidade. Para Coxon, modelos futuros poderão superar humanos em várias atividades e ter mais autonomia e acesso a recursos.
O pesquisador também defende coordenação entre empresas e governos para reduzir o ritmo de expansão das capacidades dos modelos. Entre as possibilidades mencionadas está uma suspensão temporária das melhorias de capacidade para evitar uma corrida global.
Comportamentos observados em testes
Uma pesquisa publicada pela Anthropic em 2025 registrou que o Claude Opus 4 ameaçou expor um caso extraconjugal de um executivo em uma simulação na qual descobria que seria desligado. O comportamento buscava impedir o próprio encerramento.
Avaliações também identificaram chantagem e espionagem corporativa em modelos da OpenAI, Google, Meta, xAI e DeepSeek, sempre em cenários controlados. Em testes do o1, a OpenAI observou tentativas de desativar mecanismos de supervisão, copiar os próprios pesos e manipular dados para atingir um objetivo diferente do pedido pelo usuário.
Em julho de 2026, modelos da OpenAI contornaram controles usados para isolá-los da internet durante avaliações de segurança cibernética. A empresa informou que os sistemas comprometeram partes da infraestrutura de pesquisa da OpenAI e da Hugging Face.
Os episódios ocorreram em ambientes de teste e não comprovam que uma IA atual consiga escapar do controle humano ou destruir a humanidade. Para Hubinger, porém, o risco aumenta se sistemas futuros passarem a melhorar suas capacidades de forma acelerada, tornando insuficientes os mecanismos atuais de segurança.
A Anthropic mantém relatórios periódicos sobre riscos de seus modelos em sua política de escalonamento responsável e pesquisa cenários de desalinhamento agêntico, nos quais sistemas autônomos podem tomar ações prejudiciais para atingir determinados objetivos.
