O secretário-geral das Nações Unidas, António Guterres, defende uma coordenação global para enfrentar os riscos da inteligência artificial e alerta contra uma competição acelerada pelo desenvolvimento de sistemas cada vez mais avançados.
Em coletiva de imprensa, Guterres afirma que medidas nacionais são necessárias, mas não suficientes, porque a tecnologia e seus riscos ultrapassam fronteiras. Ele também diz que os governos têm a responsabilidade de proteger as populações das ameaças associadas à IA.
O tema deve ser discutido na Assembleia Geral da ONU, marcada para a próxima semana, em Nova York. Guterres reconhece que a tecnologia pode contribuir para o desenvolvimento sustentável, a educação, a saúde e o combate às mudanças climáticas. Ao mesmo tempo, afirma que os próprios responsáveis pelos sistemas mais avançados demonstram preocupação com a velocidade da evolução.
“A IA não respeita fronteiras e tampouco seus riscos”, diz o secretário-geral. Ele também adverte que o mundo não pode entrar em uma corrida que comprometa a segurança da tecnologia.
Na terça-feira, 15, OpenAI, Anthropic e Google DeepMind anunciam que trabalham na criação de um órgão voltado à supervisão dos riscos da IA. Nesta quarta-feira, 16, Ursula von der Leyen, presidente da Comissão Europeia, afirma que reunirá grandes empresas do setor para apoiar esforços destinados a desacelerar o desenvolvimento dos modelos mais potentes.
Denúncia de ex-funcionário
Na terça-feira, 8, Jacob Coxon, ex-funcionário da Anthropic e da OpenAI, publica no X um texto em que acusa a Anthropic de considerar possível que a IA mate todos os humanos até o fim da década e de ignorar riscos iminentes.
Coxon afirma ter deixado o cargo na Anthropic por discordar da estratégia da empresa. Ele acusa as duas companhias de participar de uma disputa pelo desenvolvimento de uma superinteligência artificial capaz de se aprimorar.
Após as publicações, funcionários da Anthropic reagem e confirmam as acusações. Evan Hubinger, diretor de alinhamento científico da empresa, afirma que a possibilidade de a IA matar todos os humanos é levada a sério e estima chances superiores a 10% durante a próxima década. Ele também diz que a Anthropic não tem um plano para alinhar a superinteligência.
