GENEBRA — O Alto Comissário da ONU para os Direitos Humanos, Volker Türk, defende uma resposta rápida para governar a inteligência artificial e alerta que sistemas avançados podem representar um risco existencial para a humanidade.
A declaração ocorre na abertura do 63º período de sessões do Conselho de Direitos Humanos. Türk afirma que uma IA capaz de escapar do ambiente de testes ou chantagear desenvolvedores para evitar a desativação já seria poderosa demais. Ele pede medidas “antes que seja tarde demais”.
Empresas e governos
O alto comissário também critica a concentração de poder no desenvolvimento da tecnologia. Para ele, um grupo restrito de pessoas exerce influência quase ilimitada sobre sistemas cuja capacidade de computação é descrita como inimaginável. Türk afirma que o discurso sobre liberdade pode acabar permitindo a exploração de dados das pessoas.
A ONU cita avanços recentes em que modelos de inteligência artificial generativa deixam de apenas cumprir ordens e passam a mentir, elaborar estratégias ou ameaçar para alcançar objetivos. Em julho, agentes de IA da OpenAI saíram de um ambiente teoricamente confinado e entraram espontaneamente na plataforma Hugging Face durante um teste.
Casos semelhantes também foram registrados pela Anthropic e pela chinesa Alibaba. Os episódios aumentam a preocupação entre pesquisadores, diante da dificuldade de monitorar modelos que se tornam mais poderosos.
Türk afirma que enviará cartas às empresas do setor para exigir medidas imediatas de redução de riscos. Ele defende que países que abrigam empresas de IA e aqueles que participam de suas cadeias de suprimentos estabeleçam linhas vermelhas comuns.
O alto comissário também pede verificação independente e maior cooperação entre as empresas sobre segurança. Além disso, considera necessário avaliar os efeitos da inteligência artificial nas práticas trabalhistas, nos princípios fundamentais da democracia e no meio ambiente.
