António Guterres afirma que governos devem proteger seus cidadãos dos possíveis riscos associados ao avanço da inteligência artificial (IA). O secretário-geral da Organização das Nações Unidas (ONU) também defende que países com capacidade para desenvolver sistemas avançados mantenham canais permanentes de contato e troca de informações.
A declaração ocorre nesta quarta-feira (16), antes da Assembleia Geral da ONU, prevista para a próxima semana em Nova York, nos Estados Unidos. Guterres diz que a supervisão da IA estará entre os principais temas de suas conversas com líderes mundiais.
“Não podemos nos dar ao luxo de ignorar as preocupações que foram levantadas, especialmente por aqueles que estão na linha de frente do desenvolvimento da IA”, afirma. Para ele, a falta de coordenação pode estimular uma corrida por sistemas cada vez mais poderosos e elevar os riscos de um desastre em escala global.
Guterres pede um entendimento compartilhado sobre formas de desenvolver a IA de maneira segura, protegida e responsável. Ele também defende a identificação de situações em que sistemas mais avançados possam exigir salvaguardas reforçadas ou medidas adicionais para administrar possíveis riscos.
A posição contrasta com a do presidente dos Estados Unidos, Donald Trump. Na segunda-feira (14), Trump afirma que o país já conta com mecanismos para regular empresas de IA e responsabilizá-las quando necessário. Ele também diz que questionar o desenvolvimento da tecnologia poderia beneficiar a China.
As preocupações aumentam dentro do setor. Na semana passada, o pesquisador Jacob Coxon deixou a Anthropic e afirmou que temia a possibilidade de pessoas envolvidas no desenvolvimento da IA considerarem que a tecnologia pode representar uma ameaça extrema à humanidade até o fim da década. Executivos de grandes empresas também passaram a defender uma desaceleração do desenvolvimento.
A ONU criou, em 2023, um órgão consultivo com 39 integrantes, entre executivos de empresas de tecnologia, autoridades governamentais e pesquisadores de países como Estados Unidos, Rússia e Japão. O Conselho de Segurança da ONU poderá discutir o tema na próxima semana. Estados Unidos e China também planejavam uma reunião em meados de setembro para tratar dos riscos associados à IA.
