A Anthropic defende uma desaceleração coordenada no desenvolvimento dos modelos mais avançados de inteligência artificial. Dario Amodei, CEO da empresa, afirma que controlar o ritmo pode ampliar a segurança e reduzir riscos sem interromper a inovação.
Em ensaio publicado neste sábado (12), Amodei apresenta um plano em três etapas. A proposta prevê reservar tempo para testar, alinhar e proteger os sistemas antes que eles alcancem capacidades ainda maiores.
A primeira medida, segundo o executivo, já começou na própria Anthropic. A empresa permite que avaliadores externos tenham acesso equivalente ao de funcionários para examinar as práticas de segurança e comunicar possíveis incidentes.
A segunda etapa propõe uma articulação entre grandes empresas de IA de países democráticos para estabelecer padrões comuns. A terceira amplia a coordenação para governos, inclusive os de países com diferentes modelos políticos.
Riscos e apoio no setor
Amodei afirma que a desaceleração teria pouco sentido alguns anos atrás, quando os sistemas ainda não conseguiam atuar diretamente no mundo real nem executar ações como manipulação avançada, ataques cibernéticos ou estratégias de engano. Agora, ele avalia que ganhar um ou dois anos antes de os modelos atingirem níveis críticos poderia permitir o desenvolvimento de mecanismos de controle mais eficazes.
O debate ganhou força após Jacob Coxon, pesquisador da Anthropic, deixar a empresa. Ele afirmou temer que Anthropic e OpenAI estejam assumindo riscos excessivos. Parte dos pesquisadores, segundo Coxon, considera que sistemas futuros podem representar ameaças graves à humanidade.
Em 2023, pesquisadores e executivos do setor já haviam assinado uma declaração que tratava a redução dos riscos de extinção provocados pela tecnologia como uma prioridade global, ao lado de pandemias e guerras nucleares.
Sam Altman, CEO da OpenAI, apoiou o controle do ritmo de avanço das capacidades mais avançadas e afirmou que a empresa também pretende adotar avaliações independentes. Jakub Pachocki, cientista-chefe da OpenAI, defendeu que desacelerações voluntárias se tornem comuns até a criação de padrões compartilhados de segurança.
Elon Musk também apoiou a proposta. “Dario está certo”, escreveu na rede X.
Amodei continua defendendo o potencial positivo da inteligência artificial, mas afirma que os benefícios dependem da forma como a tecnologia será desenvolvida. A Anthropic, responsável pelo modelo Claude, também se prepara para uma possível abertura de capital, sem divulgar oficialmente uma data para a estreia no mercado.
