As soluções matemáticas da OpenAI ainda não estão atendendo aos padrões da área

Quando a OpenAI lançou centenas de supostas soluções para alguns dos problemas matemáticos mais difíceis do mundo esta semana, o laboratório de fronteira afirmou que havia consultado um grupo consultivo de matemáticos de elite para evitar a polêmica que surgiu da última vez que um de seus modelos resolveu um problema de longa data na área.

Mas a OpenAI ficou aquém desses padrões, particularmente onde os matemáticos enfatizaram a necessidade de compreensão humana de um resultado matemático. Isso é especialmente preocupante após um novo artigo ter destacado lacunas entre a linguagem natural e a solução formalmente expressa para um problema de um milhão de dólares ostensivamente resolvido pelos modelos da OpenAI.

O Grupo Consultivo sobre Matemática e Inteligência Artificial (AGMAI), sediado no Instituto de Estudos Avançados da Universidade de Princeton, é composto por nove pesquisadores proeminentes em instituições ao redor do mundo.

A organização divulgou diretrizes para laboratórios de fronteira que resolvem problemas matemáticos no final de setembro. Em uma declaração sobre o mais conjunto recente de provas, o AGMAI disse que “cabe, em última análise, à comunidade matemática avaliar até que ponto nossas recomendações foram seguidas com sucesso.”

No entanto, a primeira solicitação da organização foi “parar de testar problemas matemáticos avançados em modelos proprietários.” O lançamento da OpenAI diz explicitamente que ela está avaliando seus modelos proprietários usando problemas de pesquisa aberta em matemática.

O grupo consultivo não respondeu quando solicitado pelo TechCrunch por uma avaliação mais completa do lançamento da prova mais recente da OpenAI. O laboratório claramente seguiu alguns de seus princípios, incluindo a divulgação de resultados o mais rápido possível e a inclusão de informações sobre como os modelos chegaram a suas conclusões. Mas não para todos eles: apenas 10 dos 719 manuscritos incluíram divulgações da cadeia de pensamento do modelo.

Para artigos que as pessoas não entendem, os matemáticos sugeriram que as provas deveriam ser formalizadas — mas apenas 42% das provas lançadas pela OpenAI não haviam passado por esse processo.

Em última análise, ainda não está claro se a OpenAI está assumindo “a responsabilidade de garantir que a compreensão humana virá a seguir” ao lançar suas provas, de acordo com os princípios do AGMAI. O AGMAI sugeriu que a OpenAI deveria ajudar a financiar o trabalho de matemáticos humanos que serão necessários para tornar as soluções do laboratório significativas de qualquer maneira real.

“Os problemas estão sendo resolvidos autonomamente por operadores de IA que não têm interesse no campo mais amplo em si, uma vez que seu alvo inicial é ‘resolvido’, e não entendem a saída da IA o suficiente para responder a perguntas sobre o resultado, dar palestras ou interagir de outra forma com o resto da área”, escreveu Terence Tao, um matemático proeminente que criticou a abordagem da OpenAI, nas redes sociais após o lançamento.

Esse problema é exemplificado por um artigo publicado esta semana por matemáticos da Universidade de Cambridge e do King's College em Londres que questiona a maneira como os laboratórios de fronteira estão abordando esses desafios.

Quando os modelos de IA resolvem problemas matemáticos, eles primeiro criam uma explicação em “linguagem natural” e, em seguida, tentam expressar esse resultado em Lean, uma linguagem de programação que, em teoria, confirma a precisão da prova ao compilá-la como código.

No entanto, pode haver problemas com a forma como os modelos traduzem suas provas de linguagem natural em código; este artigo documenta pelo menos duas discrepâncias entre a prova em linguagem natural e o código Lean por trás da solução que a OpenAI ofereceu para um problema derivado das equações de Navier-Stokes que descrevem o comportamento complexo dos fluidos.

Essas discrepâncias não necessariamente desprovam nenhuma das soluções, mas levantam dúvidas sobre se podemos simplesmente confiar nos modelos para formalizar suas próprias soluções sem envolvimento humano. Essa é uma das razões pelas quais o AGMAI pediu à OpenAI que “incluísse metadados legíveis por máquina correlacionando a linguagem natural e os artefatos formais”, algo que o laboratório de fronteira não fez com esses lançamentos.

“Devido ao fenômeno das traduções incorretas — conforme destacado neste artigo — a prova em NL da OpenAI e
outras provas Lean autoformalizadas não devem ser, prima facie, confiadas sem o mesmo processo de revisão por pares e
escrutínio a que outras provas são submetidas”, concluem os autores do artigo “perdidos na tradução”.

Os matemáticos enfatizam que, quando novos resultados são descobertos por humanos, eles assumem a responsabilidade por eles e se envolvem com a comunidade em geral por meio de artigos, palestras e seminários. Esse processo aumenta a compreensão das soluções, encontra estratégias que podem ser usadas para resolver outros problemas e permite que o novo conhecimento seja aplicado em campos práticos.

Quando um modelo recebe a instrução de resolver um problema difícil e cospe uma solução, “não há compreensão humana deles no momento do lançamento, e agora o trabalho começa”, disse ao TechCrunch Melanie Wood, professora de matemática da Universidade de Harvard.