A OpenAI tem medo de modelos de pesos abertos. Os EUA deveriam ter?

As impressionantes capacidades do Kimi K3, laboratório chinês da Moonshot e o maior modelo de linguagem de grande escala de pesos abertos, deram início a um debate que confunde duas coisas: as possibilidades econômicas dos gigantes americanos de IA e o futuro dos LLMs como tecnologia.

O chefe de futuros estratégicos da OpenAI, Dean W. Ball, chegou ao ponto de argumentar que o governo dos EUA deveria encontrar um pretexto para criar medo, incerteza e desconfiança regulatórios em torno dos novos modelos, já que os modelos de pesos abertos necessariamente desestimulam os gastos de capital dos laboratórios de fronteira.

As pessoas entraram em pânico, com luminares da tecnologia como Yann LeCun e Martin Casado argumentando que o software aberto pode acelerar a inovação e coexistir com projetos proprietários. Logo depois, Ball retratou suas alegações de que uma repressão regulatória era a “melhor estratégia” da Casa Branca e de que os modelos de pesos abertos retardam necessariamente os avanços na tecnologia.

No entanto, o Axios informa que o governo Trump está considerando banir o K3 e outros modelos chineses avançados a pedido de laboratórios de fronteira americanos. Outra reportagem do Politico afirmou que o Departamento de Comércio não tomaria essa medida tão cedo.

O benefício para as principais empresas de IA é claro: modelos de pesos abertos, rodando em infraestrutura independente ou dentro de grandes empresas, oferecem inteligência mais barata do que os modelos líderes de classe da Anthropic ou da OpenAI. Se os usuários gastam cada vez mais fora dos laboratórios fechados, isso significa um retorno menor sobre seus investimentos massivos no treinamento de modelos.

Essa visão vai muito além da OpenAI. “Modelos de código aberto fortes e do nível de fronteira pressionarão as margens e abaixarão os preços das empresas de fronteira”, disse ao TechCrunch Braden Hancock, cofundador da Snorkel AI e parceiro de pesquisa do Laude Institute. “Isso não significa necessariamente que a quantidade de uso de IA diminua um pouco. Como você sabe, obviamente é justamente o oposto.”

Isso não é um problema para quem não tem ações na Anthropic e na OpenAI. A IA continuará a proliferar. Então, qual é a justificativa para o governo impedir que os americanos comprem algo em nossos mercados supostamente livres?

As preocupações com os modelos chineses vêm em vários sabores. Uma delas é proteger os dados dos EUA contra o governo chinês; os EUA proibiram a importação de veículos elétricos chineses modernos devido a preocupações sobre a coleta de dados deles. Mas os especialistas tendem a achar pouco provável que modelos de pesos abertos executados em servidores dos EUA vazem dados de volta para a China, embora não seja impossível que algo assim seja feito.

Outra é que os modelos podem ter viés implícito em direção à RPC — mas não está claro o que isso pode significar para, digamos, tarefas de programação.

Uma terceira preocupação comum é que os modelos chineses carecem das salvaguardas que o governo dos EUA exigiu (por meio de um processo opaco), que visam evitar que os principais LLMs dos EUA sejam usados para explorar sistemas de computação fechados ou criar armas. No entanto, essas mesmas salvaguardas podem tornar as empresas americanas mais vulneráveis: David Sacks, capitalista de risco e conselheiro de Trump, tem compartilhado casos de empresas americanas que recorrem a LLMs chineses para fechar lacunas de segurança quando os modelos de fronteira dos EUA se recusar a realizar as tarefas.

Mas a motivação mais significativa para restringir os modelos é o temor de que a China consiga superar os EUA se os laboratórios de fronteira desacelerarem.

Sam Bresnick, pesquisador focado na China no Centro de Segurança e Tecnologia Emergente de Georgetown, diz que a crescente importância da IA para as operações militares dos EUA dá aos EUA um motivo para apoiar o investimento contínuo em IA nos laboratórios de fronteira. Mas toda a questão, segundo ele, é repleta de conflitos.

“Por que o peso do governo dos EUA deve ser direcionado para proteger essas empresas de concorrentes que estão sendo banidos do mercado dos EUA com base em suas origens?”, pergunta Bresnick.

Os defensores da IA aberta dizem que as empresas de fronteira estão criando uma falsa binariedade entre inovação e modelos fechados.

“O maior impacto de ter esses modelos de código aberto vindos da China é menos o fato de estarem inserindo portas dos fundos e mais o fato de estarem dominando a inovação”, disse Hancock ao TechCrunch. “Você acaba ficando, efetivamente, com uma força de trabalho expandida no seu modelo. O PyTorch se tornou o padrão da indústria porque era de código aberto, e assim toda a comunidade pôde contribuir para ele em vez de apenas uma empresa, e ele cresceu e cresceu, e todas as outras bibliotecas de aprendizado profundo meio que morreram em comparação.”

Hancock e outros defensores temem que os LLMs chineses se tornem o epicentro da pesquisa internacional. Atualmente, os programas de pós-graduação dos EUA se baseiam principalmente em modelos chineses de pesos abertos, e Hancock diz que metade dos artigos que os estudantes estudam vêm de instituições chinesas, com os laboratórios de fronteira americanos cada vez mais reticentes em compartilhar amplamente seus trabalhos.

“Restringir modelos abertos não tornaria a IA mais segura”, disse Clem Delangue, CEO da Hugging Face, uma plataforma para colaboração de IA aberta. “Isso simplesmente esconderia os riscos, concentraria o poder nas mãos de poucos e dificultaria a participação da próxima geração de construtores, pesquisadores, acadêmicos, organizações sem fins lucrativos e governos em tornar a IA mais segura e benéfica para todos.”

Bresnick diz que a verdadeira maneira de desacelerar a China seria focar mais nos controles de exportação de chips. Uma maneira melhor de preservar a liderança dos EUA em IA seria parar de vender processadores Nvidia H200 para a China. “Isso”, diz ele, “poderia potencialmente nos manter fora deste espinhoso debate sobre banir tecnologias de código aberto que um enorme número de empresas americanas quer usar.”

Parte do problema é a incerteza em torno da economia da IA. “O modelo de negócios aberto, o modelo de negócios proprietário — nenhum dos dois está solucionado. As empresas de IA estão lutando para descobrir como ganhar dinheiro com suas ferramentas, especialmente porque os custos de treinamento precisam subir cada vez mais”, aponta Bresnick.

Os mesmos desafios que se desenrolam nos EUA também ocorrem na China, onde as empresas de IA também lutam para gerar receita e acessar poder computacional, e o governo é visto como incentivador de lançamentos abertos por razões políticas, apesar do desafio de capitalizar sobre eles.

Algumas empresas dos EUA, incluindo o Thinking Machines Lab e a Nvidia, estão tentando criar um negócio em torno do lançamento de modelos abertos. Hancock aponta que a Nvidia se sairia melhor “se houver dezenas ou centenas de empresas construindo IA em vez de duas ou três que sejam capitalizadas o suficiente para fazer seus próprios chips”, o que é um dos motivos por trás de seu investimento no Nemotron, uma coleção de modelos abertos.

“O ponto principal é que seria muito útil para os EUA ter seus próprios modelos abertos, altamente capazes e muito menos caros”, disse Bresnick. “Isso apenas entra em conflito com a abordagem que os laboratórios de fronteira adotaram.”

Com reportagem adicional de Rebecca Bellan.