A vantagem da Nvidia em IA está indo além da GPU

Antes desta semana, a história dominante sobre a Nvidia era mais ou menos assim: nos primeiros anos do boom da IA, a Nvidia era a única fonte de GPUs de ponta, que se tornaram imensamente lucrativas à medida que a indústria se expandia. Nos últimos anos, hiperescaladores como Amazon e Google começaram a construir seus próprios chips, e a Nvidia deixou de ser a única opção no mercado, levando muitos investidores a se perguntarem quão durável é a sua vantagem.

É uma história convincente e, na maior parte, verdadeira. Depois de multiplicar seu valor de mercado por 10 entre o início de 2023 e meados de 2025, as ações da Nvidia mantiveram uma trajetória mais modesta no último ano, impulsionadas por preocupações com a concorrência de GPUs.

Uma nova narrativa tomou forma desde os resultados financeiros da empresa na quarta-feira, e os investidores estão começando a perceber que a vantagem da Nvidia vai muito além das GPUs. À medida que o poder computacional da IA cresce para a escala de gigawatts, a orquestração se tornou uma tarefa cada vez mais complexa. Não por acaso, a Nvidia construiu boa parte do hardware de ponta necessário para lidar com isso, dando à empresa uma enorme vantagem nos sistemas que cercam a GPU, mesmo enfrentando maior concorrência nas próprias GPUs. 

Apesar de todo o papo sobre computação como uma commodity, ainda é incrivelmente difícil operar um data center em megaescala com eficiência máxima — e, à medida que as implementações ficam maiores e mais rápidas, esse desafio só aumenta.

Rack por Rack

É possível ver parte disso apenas olhando para os detalhes do que a Nvidia está realmente vendendo. A empresa está atualmente lançando sua arquitetura Vera Rubin, que emparelha a GPU Rubin com uma coleção de outras unidades, incluindo a CPU Vera, o acelerador de inferência Groq 3 LPX e racks similares para armazenamento e rede.

Na última semana, estive conversando com pessoal da Nvidia sobre o que esses sistemas realmente fazem, e os resultados foram surpreendentes. Assim como a própria GPU Rubin, são sistemas extremamente especializados, mas, em vez de processar tokens, eles garantem que tudo fora da GPU funcione da forma mais eficiente possível. Se a GPU é o motor, estes são o resto do carro.

A CPU Vera, em particular, foca no problema de orquestrar dados. “A Vera é importante porque há um limite para a quantidade de memória que você pode colocar em um único servidor ou em qualquer tipo de plataforma de computação”, disse-me Jason Hardy, vice-presidente de tecnologia de armazenamento da Nvidia. 

À medida que os data centers ampliaram seu poder computacional, a capacidade de memória também cresceu — e é por isso que empresas como a Micron enriqueceram na segunda onda do boom de infraestrutura. No entanto, levar esses dados até a GPU no momento certo não é simples — e, conforme as empresas buscam reduzir cada vez mais o consumo de energia por token, elas percebem a importância desse tipo de controle de tráfego.

“Vimos uma melhoria de até 3 vezes nessas operações, onde a CPU Vera está permitindo a aceleração”, afirmou Hardy. “Portanto, agora podemos usar nossa memória flash com todo o seu potencial, porque conseguimos extrair todo o desempenho dela sem criar gargalos.”

Versões desse mesmo problema podem ser vistas fora da Nvidia. Quando a OpenAI desenvolveu seu chip Jalapeño, um foco principal foi evitar esses desafios por completo, minimizando a quantidade de dados que precisam ser movidos.

“Projetamos o Jalapeño para minimizar a movimentação de dados e os atrasos de comunicação”, disse a empresa em uma postagem no blog no início deste mês. “Seu domínio amplo permite que toda a carga de trabalho permaneça dentro de um único sistema conectado, minimizando a movimentação de dados e ajudando a solicitação completa a se manter rápida e eficiente do início ao fim.”

É uma abordagem diferente, evitando totalmente a movimentação de dados ao conduzir uma carga de trabalho dentro de um único chip integrado. Mas a lógica geral é a mesma: aumentar a eficiência com um controle de tráfego mais inteligente, em vez de apenas mais ciclos de processador. Isso, por sua vez, abre uma camada inteiramente nova de infraestrutura para empresas concorrerem.

Esse novo foco em orquestração de dados não significa uma vitória garantida para a Nvidia. A empresa terá de competir com fabricantes de chips rivais e hiperescaladores, assim como fez com as GPUs. No entanto, a concorrência mudou para uma nova camada, onde construir uma GPU rival importa menos do que conseguir fazer todo o sistema funcionar com eficiência. 

E, pelo menos nos estágios iniciais, a Nvidia parece ter uma liderança dominante.