OpenAI, Anthropic e Google DeepMind trabalham na criação de um órgão para supervisionar riscos relacionados à inteligência artificial. A proposta enfrenta resistência do governo dos Estados Unidos e de empresas que não integram o grupo das grandes plataformas de tecnologia.
A ideia ganha força após alertas de ex-funcionários sobre os riscos do desenvolvimento acelerado da IA. Jacob Coxon, ex-funcionário da Anthropic, acusa a antiga empregadora e a OpenAI de ignorarem advertências e de avançarem em direção ao “fim da humanidade”. Bilal Chughtai, ex-pesquisador do Google DeepMind, também afirma que a tecnologia pode matar todos e que o tempo para evitar esse resultado pode estar acabando.
Proposta de supervisão
A criação de uma entidade reguladora é defendida há meses pelas principais empresas do setor. Em julho, Demis Hassabis, cofundador e diretor-executivo do Google DeepMind, propõe uma estrutura semelhante à Autoridade Reguladora da Indústria Financeira dos Estados Unidos, com financiamento vindo principalmente da própria indústria.
O governo americano inicia em agosto uma avaliação de novos modelos de IA. A participação é voluntária, e a metodologia não é divulgada. Depois de Dario Amodei, diretor-executivo da Anthropic, defender no sábado uma desaceleração do desenvolvimento, Donald Trump reafirma que não pretende impor limites ao setor.
A criação do órgão provavelmente depende de uma lei para evitar acusações de conluio e violações das normas de concorrência. A estrutura também deve incluir especialistas independentes e representantes do ecossistema de código aberto, formado por sistemas que podem ser baixados e modificados.
A entidade avaliaria modelos das empresas mais avançadas antes da comercialização, com foco na segurança. Aidan Gomez, diretor da canadense Cohere, questiona a concentração das decisões: “Não acho que um pequeno grupo de empresas de IA deva definir as regras para todo o mundo”.
Nesta terça-feira, Bernie Sanders defende normas internacionais obrigatórias durante o evento Pro-Human AI, em Washington. Para o senador democrata, padrões voluntários da indústria não são suficientes diante dos riscos associados à tecnologia.
