Os novos chips de IA da Meta iniciarão a produção em setembro

Na tentativa de reduzir seus custos com GPUs em meio a uma escassez sem precedentes de componentes, a Meta está a caminho de começar a fabricar as versões mais recentes de seu chip específico para IA em setembro, noticiou a Reuters, citando um memorando interno.

Pelo menos um chip passou com sucesso por sua fase de testes em cerca de seis semanas, segundo o memorando. A Meta está trabalhando com a Broadcom no design do chip, mas usará a Taiwan Semiconductor Manufacturing Company (TSMC) para fabricá-los. Ela também está comprando memória RAM da Samsung, armazenamento da Sandisk e equipamentos de fibra óptica da Sumitomo Electric, de acordo com a reportagem.

A Meta detalhou os quatro novos chips, desenvolvidos sob seu programa Meta Training and Inference Accelerator (MTIA), em março, alguns dos quais estão atualmente em implantação ou estarão este ano ou no próximo. A empresa está adotando uma abordagem modular para projetar esses chips, antecipando que suas necessidades mudarão à medida que a IA evoluir rapidamente até o momento em que os chips entrarem em produção.

“Cada geração do MTIA se baseia na anterior, usando chiplets modulares, incorporando os insights mais recentes sobre cargas de trabalho de IA e tecnologias de hardware, e sendo implantada em um ritmo mais curto”, escreveu a empresa na época.

Espera-se que os chips ajudem a empresa a economizar na compra de GPUs de fabricantes como Nvidia e AMD, embora ela ainda espere gastar bastante com esses fornecedores também, relata a Reuters. A Meta pretende usar os chips MTIA para treinar modelos para seus algoritmos de ranqueamento e recomendação, cargas de trabalho de IA mais amplas e inferência voltada para seus aplicativos. A empresa de mídia social produz seus próprios chips de IA desde 2023.

A Meta tem gasto massivamente para garantir capacidade de computação suficiente para alimentar seus vários esforços de IA. A empresa disse em abril que espera despesas de capital entre US$ 125 bilhões e US$ 145 bilhões este ano, muito do qual está indo para seus esforços de IA.

A empresa tem fechado acordos de centros de dados e energia em todo o mundo, gastando dezenas de bilhões para garantir capacidade de computação para treinar e implantar sua nova série de modelos de IA Muse Spark. Ela planeja implantar 7 gigawatts de capacidade de computação este ano e dobrar isso no próximo, de acordo com a Reuters, que citou o memorando.

Ela também assinou um acordo com a ARM no ano passado para garantir poder de computação para seus sistemas de recomendação, além de um acordo multibilionário com a AMD para suas GPUs Instinct e um acordo multibilionário com a Amazon para usar as CPUs próprias da gigante da nuvem para necessidades relacionadas à IA.

A Meta não é a única empresa tentando conter a maré de capital que vai para a Nvidia. No mês passado, a OpenAI revelou um processador de inferência que está construindo com a Broadcom, e dizem que a Anthropic está considerando desenvolver seus próprios chips com a Samsung. Tanto a Amazon quanto o Google desenvolvem seus próprios chips para treinamento e inferência de IA, e há uma in????dade de startups construindo no setor para atender à demanda vertiginosa.

A Meta recusou-se a comentar.