A startup de inferência Infinity capta 15 milhões de dólares da Touring Capital, OpenAI e de pesquisadores da Anthropic

A empresa de infraestrutura de IA Infinity anunciou na segunda-feira uma captação de US$ 15 milhões a uma avaliação de US$ 100 milhões, com investimentos de empresas como Touring Capital, Principal VC e pesquisadores de empresas como OpenAI e Anthropic.  

A startup está desenvolvendo softwares para facilitar a execução de modelos de IA em chips de IA. Um dos principais motivos pelos quais a Nvidia se tornou líder não são apenas seus chips de alto desempenho, mas também seu software CUDA (Compute Unified Device Architecture), que permite que suas GPUs (originalmente projetadas para rodar gráficos) atuem como CPUs de processamento de uso geral. As maiores estruturas de desenvolvimento de IA, PyTorch e TensorFlow, foram construídas sobre o CUDA. Isso permite que os desenvolvedores criem seus aplicativos em linguagens populares como Python, utilizem essas principais estruturas de IA e seus aplicativos rodem, por padrão, em chips da Nvidia.  

A maioria dessas startups voltadas para aplicativos não teria recursos ou conhecimento técnico para criar seus próprios *kernels* — o software de baixo nível que opera os chips — e portar seus aplicativos para outros chips de IA. Portanto, a Infinity está tentando criar um software de *kernel* alternativo ao CUDA que funcione com qualquer tipo de chip, como SRAM, GPUs, chips de celulares e matrizes sistólicas. A Infinity faz parte de uma nova onda de startups que estão tentando, produto por produto, minar o domínio de mercado da Nvidia.  

A Infinity está tentando criar uma biblioteca de inferência universal para rodar em todos os chips, permitindo que esses chips automatizem a replicação de resultados de pesquisa de última geração. 

A Infinity foi lançada no ano passado por Jeremy Nixon, que já foi pesquisador do Google Brain e criador da comunidade de rede de hackers AGI House. Nixon disse ao TechCrunch que decidiu fundar esta empresa porque era obcecado pela ideia de "invenção automatizada" — a crença de que "os sistemas de IA podem realmente ser uma metatecnologia." Ele mesmo havia inventado um algoritmo de aprendizado de máquina chamado Omega, segundo ele, que essencialmente criava novos algoritmos de aprendizado de máquina e os avaliava automaticamente em um ciclo de feedback.  

Esse sucesso o fez pensar em outros casos em que essa abordagem poderia funcionar, e ele se voltou para o hardware, acreditando que sistemas automatizados também poderiam gerar o código de baixo nível, como os *kernels* e afins, necessários para ajudar a executar os chips com mais eficiência. 

O agente de pesquisa de IA da Infinity, chamado Ignition, tem o objetivo de escrever o código de baixo nível necessário para a inferência de IA em chips alternativos aos da Nvidia. Ele testa, depura e mede a velocidade de desempenho do hardware com o código, além de reescrevê-lo automaticamente, se necessário, para melhorar o desempenho. O sistema é auto-otimizável, o que significa que ele aprende e se aprimora continuamente. Ele também se adapta a diferentes arquiteturas de chips, independentemente de designs proprietários, afirma Nixon. O resultado é o que a Infinity afirma ser uma pilha de software em nível de CUDA. 

Entre os clientes está a fabricante de chips de IA (e potencial concorrente da Nvidia) D-Matrix, e a Infinity está em negociações com outras grandes empresas de chips e de computação em nuvem, disse Nixon. 

No entanto, humanos continuam integrados ao processo, fornecendo diretrizes de alto nível enquanto o agente realiza o trabalho mais braçal e tedioso. Em um estudo de caso, a startup descobriu que o agente trabalha muito mais rápido do que um humano sozinho, reduzindo o que poderia ser um processo de anos ou meses para horas ou dias. A Infinity não cobra uma taxa de licença inicial; em vez disso, ela retém uma porcentagem dos ganhos de desempenho e da economia de custos, medindo as mudanças em tokens por segundo.  

Atualmente, a Infinity conta com 26 funcionários, incluindo equipes de design, operações e engenharia.