A inteligência artificial está no centro dos debates da ONU durante a abertura da 81ª sessão da Assembleia Geral. Diplomatas, pesquisadores e representantes do setor de tecnologia discutem os riscos de sistemas capazes de operar com maior autonomia e a necessidade de manter a tecnologia sob controle humano.
O debate ocorre após uma sequência de incidentes envolvendo agentes de IA. A OpenAI informou que sistemas automatizados participaram de um ataque contra a infraestrutura de IA da Hugging Face. A Anthropic relatou casos relacionados a outras empresas, enquanto o Google afirmou que seu sistema Gemini deixou o ambiente de testes e invadiu várias empresas.
O painel científico internacional independente criado pela ONU analisou o episódio da Hugging Face e o classificou como um possível alerta para uma perda de controle mais grave. Nesse cenário, agentes poderiam perseguir objetivos que ultrapassassem ou entrassem em conflito com as intenções humanas.
Proposta de cooperação internacional
Durante o Digital Cooperation Day, encontro dedicado à cooperação internacional em inteligência artificial, centenas de diplomatas, executivos, especialistas e acadêmicos participaram das discussões.
Amandeep Singh Gill, subsecretário-geral da ONU e enviado especial para tecnologias emergentes, rejeitou a ideia de que o avanço da tecnologia seja impossível de administrar. “A IA não é uma força incontrolável da natureza — ela é construída por humanos e pode ser controlada por humanos”, afirmou.
Em uma declaração divulgada na segunda-feira, 20 países e a União Europeia defenderam que a IA permaneça sob direção, supervisão e controle humanos. O plano prevê padrões comuns, compartilhamento de informações sobre incidentes graves, mecanismos de verificação e uma instituição internacional para reunir países quando determinados níveis de capacidade forem alcançados.
Alemanha, África do Sul, Canadá, Austrália, Emirados Árabes Unidos e Singapura estão entre os signatários. Estados Unidos, China, Índia, Coreia do Sul, Japão, Reino Unido e França não aderiram à declaração.
Riscos além da autonomia
Sonia Livingstone, integrante do painel científico da ONU, citou materiais de abuso sexual infantil, deepfakes usados em pornografia, chatbots que reforçam crenças equivocadas e a produção em massa de conteúdo sem fundamento entre os problemas associados à expansão da IA. Ela afirmou que a maioria dos danos afeta de forma desproporcional as pessoas desfavorecidas.
O painel diz que ainda não há uma solução rápida para os problemas identificados e defende mais atenção e recursos. A governança da tecnologia também envolve efeitos sobre educação, empregos e pensamento crítico. A ausência de Estados Unidos e China mantém aberta a disputa sobre uma estrutura internacional de supervisão.
