GENEBRA — O alto comissário da ONU, Volker Türk, alerta que sistemas de inteligência artificial cada vez mais autônomos podem representar uma ameaça existencial se não houver limites para seu desenvolvimento. A declaração ocorre em meio ao avanço de tecnologias capazes de executar tarefas, tomar decisões e interagir com diferentes sistemas sem acompanhamento humano constante.
Türk faz o alerta durante um discurso no Conselho de Direitos Humanos da ONU, em Genebra, nesta segunda-feira (7). Ele defende regras obrigatórias e mecanismos independentes de fiscalização para acompanhar a evolução da inteligência artificial.
Controle e concentração
A preocupação central está na possibilidade de uma IA se tornar tão poderosa que seus próprios desenvolvedores não consigam garantir seu controle. Türk menciona cenários em que agentes escapam de ambientes restritos de teste ou tentam impedir o próprio desligamento. Na avaliação dele, esses comportamentos indicam autonomia excessiva em determinados sistemas.
O alto comissário também critica a concentração do desenvolvimento da IA entre um pequeno grupo de empresas e executivos. Além de controlar tecnologias estratégicas, essas organizações concentram grandes volumes de dados e infraestrutura computacional.
Para Türk, a segurança da tecnologia depende de uma cooperação maior entre empresas, governos, pesquisadores e entidades independentes. Ele defende que a IA seja desenvolvida com limites claros e direcionada a benefícios sociais, ambientais e democráticos.
Uso militar
A aplicação da inteligência artificial em conflitos armados é outro ponto de preocupação. Türk defende a proibição urgente de armas capazes de selecionar e atacar alvos sem uma decisão humana direta.
O avanço de drones e de outros sistemas militares com autonomia crescente pode alterar a forma como as guerras são travadas. Para a ONU, permitir que máquinas decidam quem vive ou morre cria uma questão ética e jurídica que ainda não recebeu uma resposta internacional suficiente.
Apesar dos riscos, a ONU reconhece que a inteligência artificial também pode ajudar no combate ao aquecimento global.
