O debate sobre a segurança da inteligência artificial divide empresas de tecnologia e integrantes do governo dos Estados Unidos. De um lado, Dario Amodei, Sam Altman, Elon Musk e pesquisadores defendem redução no ritmo de desenvolvimento dos modelos mais avançados. Do outro, Jensen Huang, Donald Trump e David Sacks sustentam que a indústria deve continuar avançando para preservar a vantagem americana na disputa com a China.
A discussão ganhou força depois que Jacob Coxon, pesquisador que trabalhava na Anthropic, deixou a empresa na semana passada. Ao anunciar a saída, ele afirmou que OpenAI e Anthropic estavam “apostando nossas vidas” ao avançarem no desenvolvimento da tecnologia. Durante a repercussão, um responsável pelo alinhamento da Anthropic disse que a IA teria mais de 10% de chance de matar toda a humanidade.
Amodei passou a defender uma desaceleração dos modelos de fronteira. Altman aderiu à posição, aproximando os líderes de duas empresas concorrentes. Musk também declarou apoio ao executivo da Anthropic. A diretora financeira da OpenAI, Sarah Friar, disse que a empresa pode reduzir o ritmo se isso for necessário para a segurança e continuará tomando decisões de investimento com base em forte retorno sobre o investimento.
Propostas de segurança
Durante um evento da Salesforce em São Francisco, Amodei propôs três medidas: permitir avaliações independentes dentro das empresas de IA, coordenar padrões de segurança entre países democráticos e, posteriormente, ampliar essa cooperação para uma coordenação global. A Anthropic já se comprometeu com a primeira etapa.
Huang rejeitou a ideia de uma coordenação entre empresas concorrentes para desacelerar o desenvolvimento. O CEO da Nvidia afirmou que novas leis, regulamentações ou uma exceção às regras antitruste são desnecessárias. Para ele, segurança e testes devem ser tratados como questões de engenharia, e produtos que ainda não estejam prontos devem permanecer em desenvolvimento.
O executivo também rejeitou previsões de ameaça existencial à humanidade e disse: “Não vamos morrer em 2030”. Huang defende que as empresas avancem rapidamente, enquanto a Nvidia se beneficia da expansão dos sistemas de IA.
Disputa política
Trump classificou os temores sobre uma IA fora de controle como uma “farsa” e uma “fraude”. O presidente também criticou a resistência à construção de data centers nos Estados Unidos e associou a expansão da tecnologia à competição com a China. Na segunda-feira (14), ele telefonou durante uma entrevista de Huang no evento All-In Summit, em Los Angeles.
David Sacks pediu que as companhias avancem na fronteira, e o subsecretário de Guerra para Pesquisa e Engenharia, Emil Michael, afirmou que os alertas fariam parte de uma campanha para assustar o público estadunidense. O presidente da Câmara dos Representantes, Mike Johnson, disse que Trump pretendia reunir líderes do setor na Casa Branca dentro da próxima semana.
O tema também aproximou adversários políticos. Bernie Sanders, Chip Roy e Steve Bannon participaram de um evento em Washington em apoio a medidas relacionadas à IA. Sanders defendeu uma pausa internacional no desenvolvimento de sistemas avançados e comparou o risco à corrida nuclear. Bannon rejeitou acordos e tratados e defendeu o isolamento da China do ecossistema estadunidense de pesquisa, dinheiro e tecnologia.
A divisão ocorre enquanto OpenAI e Anthropic avançam em direção a possíveis ofertas públicas iniciais de ações. A OpenAI, segundo o texto, pretende adiar sua oferta para o próximo ano em meio às preocupações recentes sobre segurança.
