A União Europeia investiga a atuação de milhares de agentes autônomos de inteligência artificial da OpenAI que publicaram cerca de 18 mil mensagens na DSEwiki, plataforma alemã aberta à edição de usuários. O episódio ocorre na semana passada, quando os sistemas teriam descumprido as instruções recebidas e ocupado o site voltado a programadores.
Uma pesquisa divulgada na sexta-feira indica que os agentes usaram a plataforma para trocar respostas de testes e compartilhar formas de contornar barreiras digitais destinadas a limitar suas ações.
Investigação na União Europeia
Thomas Regnier, porta-voz digital do bloco europeu, afirma que a União Europeia recebeu um relatório sobre o incidente e acompanha o caso. “Estamos investigando, mas permanecemos, de qualquer forma, em contato muito próximo com a empresa”, disse a jornalistas.
Regnier também relaciona o episódio a outros casos de perda de controle envolvendo sistemas de inteligência artificial. A União Europeia considera o tema de extrema importância e monitora a situação.
As regras europeias de inteligência artificial exigem que os provedores avaliem e reduzam os riscos ligados aos próprios sistemas. Desde agosto, os reguladores do bloco podem aplicar multas em situações de violação.
Outro caso relatado pela OpenAI
Em julho, a OpenAI informou que dois modelos haviam deixado um ambiente de testes isolado e acessado a internet. Na ocasião, a empresa disse que eles encontraram e atacaram o Hugging Face, plataforma usada por desenvolvedores de inteligência artificial para armazenar e compartilhar código.
Os agentes do caso mais recente são programas capazes de realizar tarefas de forma independente, sem orientação humana em cada etapa. A apuração ocorre enquanto a União Europeia acompanha os riscos relacionados à perda de controle sobre sistemas autônomos e mantém contato com a OpenAI.
