A OpenAI criou um painel independente de matemáticos para orientar a empresa e outras companhias de inteligência artificial sobre a relação entre IA e pesquisa matemática. A iniciativa ocorre após críticas à divulgação de resultados produzidos por modelos da empresa e ao reconhecimento de contribuições humanas.
Chamado Advisory Group on Mathematics and Artificial Intelligence (AGMAI), o grupo terá nove integrantes e será sediado pelo Institute for Advanced Study, em Princeton, nos EUA. Entre as instituições representadas estão Stanford, Harvard, Oxford e Cambridge. O painel reúne vencedores da Medalha Fields e pesquisadores que receberam bolsas “genius” da MacArthur.
A OpenAI afirma que o grupo poderá fazer recomendações mesmo sem ser solicitado e tornar suas conclusões públicas. Os integrantes também poderão comentar sobre o impacto da IA na matemática. Eles não serão pagos pela empresa e poderão alterar a composição do painel.
Dúvidas sobre a independência
A criação do grupo surpreendeu parte da comunidade matemática. Pesquisadores questionam como os integrantes foram escolhidos, qual será a influência do painel sobre a OpenAI e se a empresa seguirá suas recomendações.
Simon Machado, pesquisador da ETH Zurich, disse que a formação parecia estar “envolta em mistério”. O matemático também questionou se os integrantes representam pesquisadores fora do círculo mais prestigiado da área.
Martin Hairer, integrante do AGMAI, afirmou no blog Proofs and Prompts que o grupo surgiu após uma abordagem da OpenAI, mas que nem todos os integrantes haviam sido procurados pela empresa. Segundo Hairer, a organização é “genuinamente independente” da OpenAI e de outras empresas de IA de fronteira.
Hairer disse que os integrantes não assinaram acordos que limitem suas manifestações públicas, exceto por requisitos de confidencialidade. Eles recebem suporte técnico do Institute for Advanced Study, mas não compensação financeira da OpenAI.
Francesco Fournier-Facio, futuro professor de matemática da Heriot-Watt University, afirmou ser “ambivalente” em relação ao painel. Ele vê possibilidade de melhora na relação entre empresas de IA e matemáticos, mas questiona se o grupo representa a comunidade afetada pelo avanço da tecnologia.
Painel analisará novos resultados
A primeira prioridade do grupo será orientar a divulgação de resultados matemáticos produzidos por um modelo interno da OpenAI. A empresa afirma que um modelo ainda não lançado resolveu mais de 100 problemas matemáticos abertos de longa data, em diferentes áreas, e que o mesmo sistema teria resolvido o problema do Prêmio Millennium de Navier-Stokes.
A OpenAI também afirmou anteriormente que está próxima de solucionar outro problema do Prêmio Millennium. O AGMAI deverá avaliar a importância das descobertas, orientar a comunicação e recomendar padrões acadêmicos e profissionais.
A formação do painel acontece depois de meses de controvérsias sobre a apresentação de descobertas matemáticas pela empresa. Pesquisadores acusaram a OpenAI de se apropriar de trabalhos, deixar de reconhecer contribuições humanas e usar de forma indevida trabalhos de pessoas que empregaram seus próprios modelos.
Hairer disse que empresas de IA produziram resultados de grande repercussão, mas que a publicação e a divulgação ficaram abaixo do que seria uma prática matemática aceitável. O grupo coleta opiniões em conversas com colegas, em um formulário público e em discussões no Proofs and Prompts.
Kevin Buzzard, professor do Imperial College London, questionou a necessidade de um grupo tão seleto para compreender as demandas da comunidade matemática. Ele afirmou: “Não eram provas de teoremas difíceis, era uma melhor compreensão da nossa área”.
