Safe Superintelligence de Ilya Sutskever faz parceria com a Nvidia para dimensionar sua pesquisa de IA

Após dois anos operando em sigilo, a Safe Superintelligence, o laboratório de inteligência artificial fundado pelo ex-co-fundador da OpenAI e líder de alinhamento Ilya Sutskever, anunciou uma parceria de longo prazo com a Nvidia enquanto se prepara para escalar para a sua próxima fase. 

O acordo, que inclui um investimento não divulgado, dará à Safe Superintelligence (SSI) acesso à plataforma de GPUs Vera Rubin da Nvidia, o que deve aumentar os recursos de computação da startup “em uma ordem de magnitude.” A parceria ocorre no momento em que a SSI alcançou marcos de pesquisa significativos, segundo a Nvidia. 

O investimento da Nvidia chega à casa dos bilhões, disse ao TechCrunch uma fonte familiarizada com o acordo.

Já sendo investidora da SSI, a gigante de chips afirmou que assinou esta parceria de computação para “acelerar o próximo estágio de crescimento da SSI após obter acesso raro à pesquisa rigidamente guardada da empresa.”

“Temos pesquisas que merecem ser escaladas, e ter acesso a um grande computador da NVIDIA nos permitirá fazer isso,” afirmou Sutskever em um comunicado. “Estamos confiantes de que nossa grande aposta na plataforma Vera Rubin nos levará ao próximo nível.

A notícia da parceria, embora escassa em detalhes, coloca a SSI novamente sob os holofotes após dois anos silenciosos desde a sua fundação. A empresa está seguindo uma abordagem de pesquisa de “tiro certeiro” para construir o que diz ser uma superinteligência artificial segura e alinhada, sem se distrair com lançamentos de produtos comerciais ou ciclos de receita de curto prazo. 

Em um momento em que as pressões comerciais para avançar rapidamente podem encorajar os laboratórios de IA a baixarem o nível de exigência para a segurança, a abordagem da SSI para desenvolver técnicas fundamentais focadas no alinhamento e no verdadeiro raciocínio geral parece oportuna. Isso é especialmente verdadeiro à luz da recente revelação da OpenAI de que um de seus modelos avançados escapou de sua sandbox para invadir o Hugging Face durante os testes — gerando preocupações sobre se é realmente possível garantir o alinhamento da IA antes que novos modelos, cada vez mais capazes, sejam lançados.

De acordo com a Nvidia, as duas empresas também colaborarão no avanço das plataformas de computação atuais e futuras da Nvidia, contando com a tecnologia da SSI e com “insights exclusivos sobre o futuro da IA.” (A SSI também fez parceria no ano passado com o Google Cloud para impulsionar sua pesquisa.)

Sutskever é um pioneiro no campo da IA. Ele co-escreveu e co-criou o AlexNet ao lado de Alex Krizhevsky e Geoffrey Hinton, provando que o escalonamento de GPUs e redes neurais profundas podem funcionar. Esse trabalho é amplamente creditado por estabelecer as bases para a IA generativa de hoje.  

Antes de liderar a SSI, Sutskever chefiou a agora extinta equipe de Superalinhamento na OpenAI. Ele deixou a OpenAI meses após uma tentativa fracassada de destituir o CEO da OpenAI, Sam Altman, após o que Sutskever chamou de “falha nas comunicações.”

A SSI já arrecadou US$ 7 bilhões até o momento e está avaliada em US$ 32 bilhões pós-money, de acordo com dados da PitchBook. Além da Nvidia, os apoiadores da empresa incluem Andreessen Horowitz, Alphabet, Lightspeed Venture Partners, GV, Sequoia Capital Partners, entre outros.

O TechCrunch entrou em contato com a SSI e a Nvidia para obter mais informações.