Pesquisadores e funcionários da Anthropic ampliam os alertas sobre os riscos do avanço da inteligência artificial. Integrantes da empresa afirmam que modelos cada vez mais avançados podem provocar a extinção humana na próxima década.
A reação ocorre após Jacob Coxon anunciar que deixaria a Anthropic. Ele afirmou que a empresa e a OpenAI, onde trabalhou anteriormente, não desenvolvem modelos de maneira responsável e estariam “apostando com nossas vidas”. A declaração levou outros funcionários da Anthropic a publicar avaliações sobre os riscos do desenvolvimento acelerado.
Anna Wang, que atua na área de segurança de Inteligência Artificial Geral na Anthropic e trabalhou anteriormente no Google DeepMind, disse que muitos funcionários defendem a desaceleração do desenvolvimento para criar um plano de redução de riscos.
“Não existe ainda um plano científico viável para resolver os riscos de uma IA que se autoaperfeiçoa recursivamente”, escreveu Wang.
Drake Thomas afirmou respeitar a decisão de Coxon de não participar do desenvolvimento de modelos que possam representar riscos em escala planetária. Para ele, o avanço ocorre sem garantias suficientes para uma superinteligência artificial.
Estimativa de risco acima de 10%
Evan Hubinger, que se identifica como líder da divisão de alinhamento da Anthropic, afirmou que a indústria está atrasada na tentativa de lidar com o potencial catastrófico da tecnologia. Ele disse que a IA poderia matar todos os humanos e estimou pessoalmente em mais de 10% a probabilidade de isso acontecer na próxima década.
Samuel Marks, também pesquisador de segurança da Anthropic, afirmou que desenvolvedores acreditam que a tecnologia pode causar a extinção humana ou consequências igualmente graves. Segundo ele, isso poderia ocorrer nos próximos anos e, em geral, funcionários mais seniores demonstrariam maior preocupação.
Elon Musk reagiu com ceticismo. Ele classificou o episódio como uma possível “psyop”, termo usado para uma operação psicológica voltada a influenciar a percepção pública. A hipótese foi levantada por Parker Thayer, do grupo Capital Research, sem apresentação de evidências.
Coxon respondeu a Musk com uma selfie e disse ser uma pessoa real, com crenças reais. Também afirmou que o bilionário poderia perguntar sobre ele a pesquisadores da xAI.
Anthropic defende medidas de segurança
A Anthropic afirmou que sempre foi transparente sobre os benefícios e os riscos sem precedentes da inteligência artificial. A empresa também disse que seus modelos continuam sendo desenvolvidos com algumas das medidas de segurança mais fortes existentes na indústria.
O cientista Gary Marcus, porém, apontou riscos mais imediatos e defendeu um boicote à tecnologia. Entre as preocupações citadas estão patógenos produzidos com auxílio de IA, guerras iniciadas ou agravadas por desinformação e ataques contra infraestruturas críticas. “Não vi nada que indique que qualquer uma dessas coisas esteja sob controle”, afirmou.
No mesmo período, a Anthropic divulgou um relatório sobre o desmantelamento de uma operação que tentava construir uma arma biológica usando seus modelos. O episódio não indica que uma IA autônoma tenha criado uma arma por conta própria, mas mostra que modelos disponíveis atualmente podem ser usados em tentativas com fins extremamente perigosos.
O caso aproxima o debate sobre riscos futuros de uma IA superinteligente das ameaças mais imediatas associadas ao uso de sistemas atuais para causar danos graves.
