Dario Amodei, CEO da Anthropic, propõe que as empresas de inteligência artificial reduzam o ritmo de desenvolvimento dos modelos mais avançados e ampliem os testes de segurança antes de colocá-los em operação. A proposta recebe apoio de Sam Altman, da OpenAI, e de Elon Musk.
Em um ensaio publicado no sábado, Amodei afirma que, sem medidas adicionais de controle, sistemas de IA podem atingir capacidade para assumir o controle de grande parte da internet em um intervalo de seis a 12 meses, entre outros riscos. Ele ressalta que a intenção não é interromper o progresso tecnológico, mas assegurar avaliações rigorosas para modelos cada vez mais poderosos.
As medidas sugeridas
O plano apresentado pelo executivo é dividido em três etapas. A primeira prevê acesso contínuo de avaliadores externos às operações de segurança das empresas que desenvolvem os modelos mais avançados. A fiscalização permitiria acompanhar as práticas adotadas pelas companhias.
A segunda etapa propõe que as principais desenvolvedoras estabeleçam padrões comuns de segurança. A terceira envolve maior coordenação entre governos de diferentes países para lidar com os riscos associados à tecnologia. A meta é garantir tempo para testar, alinhar e validar os sistemas antes do lançamento de versões mais avançadas.
Altman afirma, em publicação no X, que concorda com a necessidade de controlar o ritmo de evolução dos recursos mais avançados da IA e que pretende adotar mecanismos semelhantes aos sugeridos pela Anthropic. Musk também apoia a proposta: “Dario está certo”.
Pressão sobre as empresas
O debate ocorre enquanto parlamentares nos Estados Unidos cobram explicações das big techs após episódios de ataques cibernéticos realizados sem supervisão humana. Especialistas também discutem o consumo de energia elétrica, água e infraestrutura provocado pelo desenvolvimento da tecnologia.
A saída de Jacob Coxon da Anthropic amplia a repercussão. O pesquisador, que também trabalhou na OpenAI, diz ter deixado a empresa por considerar que as companhias assumem riscos excessivos. Segundo Coxon, os desenvolvedores “acreditam sinceramente que elas podem nos matar a todos até o final da década”.
No mesmo contexto, Altman afirma que os planos de abertura de capital da OpenAI ficam para o futuro. A estimativa anterior era realizar a oferta ainda neste ano, mas o IPO passa a ser considerado para pelo menos 2027. Investidores avaliam que as declarações podem gerar pressão de curto prazo, mas não devem interromper o avanço dos investimentos em IA no longo prazo.
