GENEBRA — O chefe de Direitos Humanos da ONU, Volker Turk, alerta que sistemas avançados de inteligência artificial podem alcançar um nível de poder capaz de ameaçar a humanidade. O aviso ocorre durante um discurso no Conselho de Direitos Humanos da organização, antes do início de seu segundo mandato, previsto para o próximo mês.
Turk pede que países que desenvolvem inteligência artificial, hospedam operações do setor ou participam de suas cadeias de fornecimento estabeleçam limites previamente acordados. Para ele, a cooperação entre esses governos é necessária para reduzir os riscos associados à tecnologia.
“Compartilho as preocupações de integrantes da indústria de que uma IA avançada possa representar um risco existencial para a humanidade”, afirma Turk durante o discurso.
Concentração de poder
O representante da ONU também critica a concentração de poder na indústria de inteligência artificial. Sem citar empresas, ele afirma que um pequeno grupo de homens controla um poder “quase ilimitado” sobre a tecnologia. Entre as principais empresas do setor estão Meta, Anthropic, OpenAI e Google.
Turk defende garantias de segurança e proteção antes que os sistemas avancem ainda mais. Ele também afirma que, nos próximos dias, empresas do setor devem ser pressionadas a reduzir os riscos relacionados à inteligência artificial avançada.
“Estou pedindo aqui, hoje, um esforço total para estabelecer garantias rígidas em torno da segurança e proteção da IA, antes que seja tarde demais.”
Debate internacional
As declarações acompanham alertas anteriores de executivos da indústria sobre riscos de extinção associados à inteligência artificial, incluindo Sam Altman, CEO da OpenAI.
A ONU defende regras harmonizadas para enfrentar os riscos da tecnologia. Em julho, a organização realizou sua primeira reunião global sobre governança da inteligência artificial.
Para Turk, governos e empresas precisam definir mecanismos de segurança e limites claros enquanto a tecnologia continua avançando.
