Is the future of data centers portable? Runware builds a pod to find out
Na terça-feira, a empresa de infraestrutura de IA Runware anunciou o lançamento de seu próprio data center modular chamado Sonic Inference Pod. Projetado como uma única unidade transportável, o Pod representa um tipo de capacidade de computação mais flexível que pode operar lado a lado com os projetos de data centers massivos das grandes provedoras de nuvem.
A Runware afirma que o Pod pode oferecer inferência com maior qualidade, mas a um custo menor do que outras plataformas de inferência sem servidor e nuvens de GPU. O design modular significa que é fácil adicionar capacidade rapidamente, criando novos pods em vez de ter que expandir um data center fixo. De certa forma, este é o futuro, disse ao TechCrunch Flaviu Radulescu, cofundador e CEO da Runware.
“Acreditamos que a computação distribuída, posicionada mais perto dos usuários finais para uma inferência mais rápida, é o que vencerá a longo prazo”, disse ele, citando sua empresa como exemplo. Além de um preço mais baixo, Radulescu observou que o sistema da Runware pode escalar e adicionar capacidade rapidamente, ser implantado em qualquer lugar onde haja energia e se adaptar rapidamente a novos lançamentos de hardware. Os pods da Runware também não usam água, mas sim um sistema de refrigeração em circuito fechado que pode ser construído em dias, em comparação com os meses ou até anos que leva para construir data centers tradicionais.
“A demanda por inferência está crescendo mais rápido do que as instalações podem ser construídas”, disse Radulescu. “O que queremos é alimentar a inteligência do mundo, ser a espinha dorsal na qual todos os modelos de IA rodam, com capacidade que acompanhe a demanda em vez de sufocá-la.”
Atualmente, a Runware tem 10 pods em operação nos EUA, na Europa e na Ásia-Pacífico, disse Radulescu. A empresa já fornece inferência para algumas empresas, incluindo Higgsfield AI e Wix, e tem 160 locais disponíveis para alimentar seus pods agora mesmo. A Runware anunciou uma rodada Série A de US$ 50 milhões em dezembro para fornecer a infraestrutura necessária para que as empresas gerem imagens. Eles veem a expansão para pods como parte da missão central da empresa: fornecer inferência para as empresas, em vez de um único produto.
Laboratórios de IA como OpenAI e SpaceX ainda estão correndo para construir data centers em todos os EUA. A OpenAI, por exemplo, está perto de fechar um acordo de US$ 500 bilhões que resultaria na construção de um data center em Ohio, de acordo com reportagens. Mas Radulescu não vê esses projetos como uma ameaça aos Sonic Inference Pods, descrevendo a flexibilidade dos pods como um diferencial fundamental.
“Cada pod opera como parte de uma única rede, então as solicitações vão para onde houver capacidade, mais perto dos usuários, e se um pod ficar offline, o tráfego vai para outro”, disse ele, acrescentando que uma falha no sistema significa que apenas um pod está inativo, e não uma instalação fixa inteira. “Clientes que querem hardware dedicado recebem pods inteiros só para si.”
Ele também não está muito preocupado com outras empresas construindo isso por conta própria, dizendo simplesmente que o hardware é lento e que encontrar o grupo de talentos para construir e consertar essa tecnologia é escasso.
“Um erro no design de uma placa de circuito custa meses entre redesenho, simulação, fabricação, testes e entrega”, disse ele. “Cada uma dessas etapas exige alguém que entenda exatamente o que cada componente faz e o que quebra se ele desaparecer.”
Construir data centers de IA é um tópico controverso, no entanto, especialmente devido à quantidade de recursos que consome. Comunidades onde os data centers estão localizados já relataram um aumento nos custos de serviços públicos. Um dia, a Runware prevê um mundo onde poderá funcionar com energia renovável e não consumir os recursos de que as comunidades precisam, mas esse dia não é necessariamente hoje.
Radulescu disse que o uso de energia pela IA vai aumentar de qualquer maneira, “impulsionado pela demanda por inferência, e não por quem a fornece”. O foco da Runware no momento é como essa demanda será atendida, disse ele. “Sem perdas de transmissão, sem água no resfriamento e usando energia que já existe, em vez de pedir que seja construída nova capacidade na rede elétrica. Mais inferência construída dessa forma significa menos rede nova, menos água, para a mesma quantidade de computação.”
