O conflito da OpenAI com matemáticos só está escalando

Vinte e cinco matemáticos renomados assinaram uma carta aberta argumentando que os laboratórios de IA estão ameaçando seu trabalho intelectual enquanto competem para superar uns aos outros com soluções para problemas matemáticos famosos. Cada signatário foi agraciado com a Medalha Fields, considerada o prêmio mais prestigiado da matemática.

Esta semana, o professor da NYU Tristan Buckmaster acusou a OpenAI de pressioná-lo a não creditar um colaborador que trabalha na Anthropic pela solução de um importante problema matemático, e questionou se a empresa havia usado o trabalho deles com o Codex para produzir sua própria demonstração inovadora durante um fim de semana maratônico de inferência.

Na quinta-feira, a OpenAI retirou seu patrocínio a um evento de matemática no CalTech após a empresa ser criticada por pesquisadores da universidade.

Embora a capacidade dos modelos de IA de resolver os desafios matemáticos pendentes do mundo possa ser uma bênção para a humanidade, os signatários da nova carta argumentam que isso só será verdade se essas soluções puderem ser compreendidas e comunicadas pela comunidade matemática e, em última análise, pelo resto do mundo.

“Muitas vezes, essas soluções são anunciadas às pressas, sem deixar tempo para uma redação adequada, o isolamento de novos métodos e ideias, e a citação do trabalho anterior relevante de outros”, escreveram eles — e a demonstração da OpenAI permanece não verificada. “Como em todas as profissões criativas, isso levanta graves questões de autoria e plágio. Além disso, sem os matemáticos dispostos que devem cuidar de seu desenvolvimento e integração no cânone matemático, as ideias concebidas por IA nunca ganhariam vida plena e a crucial cadeia de transmissão humana entre matemáticos seria perdida.”

Com outros matemáticos ficando paranóicos e imaginando se o uso que fazem do Codex foi, por sua vez, alimentado nos novos modelos da OpenAI, há um medo real de que a cultura de pesquisa aberta seja ameaçada. Hoje, se laboratórios de fronteira veem um caminho útil para uma descoberta, eles podem gastar dezenas de milhões de dólares usando LLMs para vencer os pesquisadores originais em uma demonstração — uma dinâmica que incentivará o sigilo.

Esta carta segue a Declaração de Leiden, lançada por um grupo de trabalho de matemáticos em junho. Esse documento também aborda as maneiras pelas quais as demonstrações por LLM mudarão seu trabalho e oferece um conjunto de recomendações para matemáticos, instituições e formuladores de políticas.

Assim como na engenharia de software e em outras áreas onde as ferramentas de IA estão mudando os fluxos de trabalho, os matemáticos encontram justificativa no trabalho em torno do trabalho: o valor na matemática não está apenas nas demonstrações e em quem recebe o crédito, mas na superestrutura intelectual que nutre os estudantes, encontra novas perguntas e ideias, e as integra na civilização humana mais ampla.

E se você não se importa particularmente com o mundo implacável das demonstrações matemáticas de alto risco, não se esqueça: sua área de interesse é a próxima.

“Os problemas que a comunidade matemática enfrenta agora são semelhantes aos problemas que outras profissões científicas e criativas estão enfrentando, e indicam questões que toda a humanidade pode vir a enfrentar: como garantir que, à medida que a IA muda a forma como o trabalho é feito, não percamos de vista o que esse trabalho deveria alcançar em primeiro lugar”, escreveram eles.