Enquanto os EUA ponderam resposta à IA chinesa, a indústria insta a evitar amplas restrições de pesos abertos

Várias empresas de IA, incluindo Hugging Face, Meta, Microsoft, Mistral e Nvidia, assinaram uma carta aberta instando os formuladores de políticas a não imporem amplas "restrições prematuras" a modelos de IA de pesos abertos. A carta surge no momento em que Washington debate como os EUA devem responder às alegações de que laboratórios de IA chineses estão roubando propriedade intelectual de suas contrapartes americanas e crescendo em capacidade.

A carta não menciona a China de forma alguma, mas surge na sequência de relatos de que a administração Trump tem considerado banir modelos chineses de pesos abertos e, potencialmente, impor sanções contra empresas de IA do país. A Casa Blanca chegou a acusar a Moonshot AI de destilar o modelo Fable da Anthropic para treinar seu modelo Kimi K3, recentemente lançado e, por todas as medidas, muito impressionante. 

O comunicado parece ter como objetivo desestimular uma proibição total aos modelos chineses, bem como garantir que a resposta da administração à suposta destilação chinesa não transborde para restrições mais amplas à IA de pesos abertos ou a técnicas comuns como a destilação:

Os formuladores de políticas devem ter cuidado para não confundir técnicas legítimas de desenvolvimento de modelos com apropriação indébita. A destilação, ou a prática de usar as saídas de um modelo para ajudar a treinar ou melhorar outro, é uma técnica amplamente utilizada para melhoria, avaliação e validação de modelos. Ela reflete uma longa tradição de aprender com, construir sobre e melhorar tecnologias existentes, uma tradição que ajudou a impulsionar a inovação desde o surgimento do movimento de software de código aberto. 

Em contrapartida, esforços ilegais para extrair valor de modelos fechados levantam preocupações legítimas. Essas preocupações devem ser abordadas por meio de estruturas legais e comerciais direcionadas, em vez de restrições abrangentes a técnicas que desempenham um papel importante na inovação em IA.

Ou como Amjad Masad, CEO da Replit (que também assinou a carta), disse ao TechCrunch: “Acho que banir modelos abertos chineses equivale a banir modelos abertos em geral.” Ele apontou que o novo modelo aberto do Thinking Machines Lab, o Inkling, foi treinado com a ajuda do Kimi 2.5 da Moonshot. “É um ecossistema, e o precedente [que uma proibição] abriria é ruim.”

A carta também rebate argumentos na indústria de que modelos de pesos abertos são inerentemente perigosos porque ampliam o acesso a modelos poderosos, que podem ser usados em ataques cibernéticos ou outras atividades nefastas, sem qualquer supervisão. 

“A resposta certa para esse risco não é proibir pesos abertos. Em um mundo onde os atacantes da segurança cibernética usam IA avançada, os defensores precisam de acesso a modelos com capacidades comparáveis para que possam detectar, simular e responder a ameaças emergentes”, diz a carta. “Modelos abertos ampliam a capacidade defensiva, aumentam a transparência e permitem que vulnerabilidades sejam descobertas e remediadas em várias equipes.”

Na semana passada, a OpenAI revelou que, ao testar o GPT-5.6 Sol e outro modelo sem nome, um dos sistemas explorou uma fraqueza em seu ambiente de teste para acessar um repositório da Hugging Face contendo a solução para um benchmark de codificação. Pode-se argumentar que o objetivo do modelo não era malicioso e que ele estava efetivamente trapaceando em um teste para obter a maior pontuação. Mas o incidente gerou debate sobre os riscos de concentrar tecnologia avançada de IA nas mãos de um punhado de provedores fechados. 

A Hugging Face disse que não conseguiu se defender do ataque com modelos comerciais de IA de fronteira porque as salvaguardas deles bloquearam seus esforços. Os modelos de IA fechados que utilizou foram incapazes de distinguir entre ser solicitado a construir exploits para um atacante e um defensor tentando detectá-los. Em vez disso, a empresa teve que recorrer ao GLM 5.2 da empresa de IA chinesa Z.ai, um poderoso modelo de pesos abertos, para se defender contra o ataque. 

A carta destaca uma divisão na indústria de IA. Empresas como OpenAI e Anthropic têm instado a administração a responder ao suposto roubo de propriedade intelectual por empresas chinesas de IA à medida que os modelos de pesos abertos crescem rapidamente em capacidade. O resultado pode ter grandes implicações em seus modelos de negócios, que estão sendo ameaçados pela propagação de modelos de IA baratos, altamente capazes e acessíveis.

Essas empresas, juntamente com outros desenvolvedores de IA de código fechado, como Google DeepMind e SpaceX, destacam-se pela ausência no final desta carta. 

Aqueles que assinaram a carta têm um interesse econômico óbvio em ver os modelos de IA abertos florescerem. Empresas como Nvidia, Microsoft Azure e outros provedores de infraestrutura têm um interesse investido em pressionar por modelos mercantilizados: se os modelos forem intercambiáveis, as pessoas comprarão mais GPUs, alugarão mais capacidade em nuvem e construirão mais aplicativos. 

A carta incentiva os formuladores de políticas a expandir o acesso à computação para startups e pesquisadores; investir em ativos de treinamento compartilhados, como conjuntos de dados, ferramentas e estruturas de avaliação; e “[manter] a fronteira plural, evitando restrições prematuras a modelos abertos que sufoquem a competição ou levem a inovação para o exterior.”

Este artigo foi atualizado com um comentário de Amjad Masad, CEO da Replit.