O Google se juntou à Amazon para atacar o reduto da Nvidia com desenvolvedores de aplicativos de IA

Na terça-feira, o Google anunciou que o TorchTPU, sua tão aguardada versão do PyTorch, já está disponível como um projeto de código aberto. Com isso, o Google se junta à Amazon na tentativa de quebrar o domínio da Nvidia sobre a indústria de IA, onde a maioria dos aplicativos de IA é escrita por padrão para rodar nos chips da Nvidia, ou GPUs.

O PyTorch é o popular kit de ferramentas de código aberto que desenvolvedores de aplicativos de IA e startups utilizam para criar, treinar e executar modelos de IA. Ele é, segundo algumas estimativas, utilizado por 85% dos aplicativos de IA. O PyTorch foi originalmente desenvolvido pela Meta (então Facebook) em 2016, muito antes de o mundo ter qualquer ideia de que os LLMs mudariam o mundo. Na época, as GPUs da Nvidia já eram o hardware padrão para pesquisas de IA, então muitos dos recursos do PyTorch foram construídos para funcionar especificamente com elas. Em 2022, a Meta transferiu o PyTorch para a Linux Foundation, uma organização sem fins lucrativos que gerencia vários projetos importantes de código aberto.

A versão do Google, o TorchTPU, permite que aplicativos de IA rodem nos chips de IA do Google, chamados de Unidades de Processamento Tensorial (TPUs). Ele também facilita a migração de aplicativos PyTorch existentes para as TPUs e, portanto, para o Google Cloud. Os desenvolvedores podem fazer isso com uma simples alteração de configuração e sem reescrever seus aplicativos.

A Amazon fez um anúncio semelhante na segunda-feira, quando lançou sua própria versão do PyTorch, chamada TorchNeuron. O TorchNeuron permite que aplicativos de IA sejam portados para o chip de IA próprio da Amazon, o Trainium, e para a AWS sem necessidade de reescrita. A Amazon também afirmou que está indo ainda mais longe em seu esforço para enfraquecer o controle da Nvidia sobre o PyTorch. Ela está enviando código para o projeto principal do PyTorch que desacopla vários recursos dos chips da Nvidia, tornando-o mais aberto a qualquer hardware por padrão.

No entanto, o Google pode estar superando a Amazon de algumas maneiras. A empresa afirma que trabalhou diretamente com a Meta, Hugging Face, Inferact (criadora do vLLM), RadixArk (criadora do SGLang) e outras para garantir que os recursos e as bibliotecas de código do TorchTPU funcionem bem com essas ferramentas populares de desenvolvimento de IA, assim como o PyTorch original.

Além disso, a gigante das buscas lançou uma ferramenta dedicada, o conjunto de agentes TPU, para ajudar os desenvolvedores a migrarem seus aplicativos para os chips e nuvem do Google e a corrigirem erros durante o processo. Ela até atualizou sua ferramenta popular LiteRT, que executa IA em celulares, laptops e dispositivos embarcados, para funcionar melhor com aplicativos de IA do PyTorch.

Nada disso significa que os desenvolvedores de aplicativos de IA abandonarão o hardware da Nvidia em massa simplesmente porque agora podem migrar facilmente para chips e nuvens alternativos. Mas a Amazon e o Google estão claramente trabalhando para acabar com a vantagem da Nvidia.