NOVA YORK — A França afirma que é urgente desenvolver a inteligência artificial (IA) de forma segura e responsável diante do risco de uso malicioso da tecnologia. A posição está em uma nota conceitual distribuída aos integrantes do Conselho de Segurança das Nações Unidas, que discute o tema em uma reunião na próxima semana.
Sam Altman, CEO da OpenAI, participa presencialmente da sessão, marcada para quarta-feira (23). O encontro reúne o Conselho, formado por 15 membros, durante a Assembleia Geral da ONU, realizada em Nova York, nos Estados Unidos.
O que está previsto na apresentação
Altman deve defender a coordenação internacional e a adoção de padrões de segurança compartilhados. O executivo também deve apresentar as medidas adotadas pela OpenAI para que pessoas de todo o mundo se beneficiem da IA.
A sessão é convocada pela França, que ocupa a presidência do Conselho de Segurança durante setembro. A condução fica com Jean-Noël Barrot, ministro francês da Europa e das Relações Exteriores.
Diplomatas esperam ainda uma presença de alto nível da Anthropic, mas a participação da empresa não está confirmada. A companhia não respondeu imediatamente a um pedido de comentário.
Riscos discutidos pelo Conselho
O órgão, responsável pela manutenção da paz e da segurança internacionais, debateu os riscos da IA pela primeira vez em 2023. Na ocasião, a China declarou que a tecnologia não deveria se transformar em um “cavalo fora de controle”. Os Estados Unidos alertaram para possíveis usos da IA na censura ou na repressão de pessoas.
A reunião ocorre poucas semanas depois de líderes do setor defenderem uma desaceleração coordenada no desenvolvimento de tecnologias cada vez mais avançadas. Eles afirmaram que a IA pode, em breve, melhorar a si própria e eventualmente escapar do controle humano.
Altman já tratava dos riscos da tecnologia antes do atual crescimento do setor. Em um ensaio publicado em 2015, “Machine Intelligence, part 1”, ele escreveu que o desenvolvimento de uma IA sobre-humana seria “provavelmente a maior ameaça à continuidade da existência da humanidade”.
