A Laplace Intelligence testa a segurança de robôs e carros autônomos antes que eles cheguem ao mundo real

Se há uma lição que o incidente entre OpenAI e Hugging Face nos ensinou, é que agentes de IA podem ser imprevisíveis. 

“Imagine se algo assim acontecesse no mundo físico”, disse ao TechCrunch Howie Sun, CEO e cofundador da Laplace Intelligence. “Os agentes de IA estão saindo dos computadores para o mundo real, e nós realmente não queremos que a IA física falhe no mundo real.”

Com sede em Ann Arbor, a Laplace está desenvolvendo testes de invasão automatizados (*red-teaming*) — essencialmente, testando o estresse de um sistema ao tentar deliberadamente fazê-lo falhar — para robótica e IA física. A empresa aposta que a única maneira de garantir que a IA física seja segura é fazer com que a IA a teste.

“Nosso objetivo é ajudar as empresas a descobrir e corrigir problemas antes da implantação — e, com o tempo, construir uma base compartilhada de evidências em que clientes, seguradoras e reguladores possam confiar”, disse Sun.

A Laplace é uma das 20 startups que competem no Startup Battlefield 200, a competição de pitches de startups que acontece no TechCrunch Disrupt em São Francisco esta semana, de 13 a 15 de outubro. Ela se apresentará no palco do Disrupt na terça-feira à tarde, 13 de outubro.

Sun, junto com seu cofundador e cientista-chefe Henry Liu, fundou a Laplace há um ano na Universidade de Michigan. Sun passou os últimos oito anos na academia pesquisando como desafiar a IA de direção autônoma em simulação. Em 2023, ele e Liu — seu então orientador de doutorado — publicaram um artigo sobre o assunto que foi capa da principal revista científica Nature. Foi aí que começaram a surgir ligações de empresas de veículos autônomos interessadas em implementar suas ideias. 

“Percebi que queria construir isso e levá-lo de uma pesquisa puramente acadêmica para um produto útil no mundo real”, disse Sun. 

Usando sua pesquisa acadêmica como base, Sun e Liu construíram a Laplace, nomeada em referência ao “demônio de Laplace”, uma experiência mental de 1814 do estudioso francês Pierre-Simon Laplace, que imaginou que, se você conhecesse o estado exato de tudo no universo, poderia prever o futuro com precisão total.

“Estamos essencialmente usando a simulação para prever o futuro do mundo real”, disse Sun. 

No núcleo da startup está uma simulação de alta fidelidade reconstruída a partir do mundo real, combinada com um agente de IA que busca constantemente por fraquezas e pontos de falha. O objetivo é garantir que qualquer IA física — seja um robô, veículo autônomo ou solução de cidade inteligente — seja segura em simulação antes de ser implantada no mundo real. 

O ambiente de simulação é uma versão pós-treinada do Cosmos da Nvidia, uma plataforma de simulação de mundo de IA baseada no mundo real, permitindo que a Laplace reconstrua qualquer coisa, desde uma rodovia no Arizona até uma faixa de pedestres em Paris. As simulações são geradas misturando uma malha de diferentes informações do mundo real. Uma imagem do Google Street View pode servir como referência a partir da qual uma rua inteira é gerada. Mas, em vez de gerar algo aleatório, o simulador combina dados de mapas do mundo real para recriar um ambiente que seja fiel à escala. 

Os desenvolvedores podem então usar comandos de texto (*prompts*) para alterar o cenário em tempo real, como adicionar tráfego da tarde. Sun diz que a Laplace obtém informações de tráfego e congestionamento em tempo real de provedores de navegação como a TomTom. 

Nas simulações da Laplace, não apenas o ambiente é simulado, mas também o comportamento de outros atores. Por exemplo, durante uma demonstração, Sun direcionou o veículo do agente de teste para entrar na contramão do tráfego. O carro que ele teria atingido — ou atravessado, como é comum entre alguns modelos de mundo gerativos — saiu do caminho para evitar uma colisão. 

“É verdadeiramente um ambiente de simulação interativo”, disse Sun. “Todos estão reagindo a tudo... Isso se parece mais com um modelo de mundo com participantes interativos.”

Embora o ambiente simulado seja uma parte importante do produto da Laplace, o verdadeiro diferencial de vendas são os agentes de IA que a startup está desenvolvendo para projetar automaticamente casos de borda (*corner cases* — cenários difíceis e raros que podem atrapalhar um sistema de IA), tirando ainda mais o ser humano do processo. 

“Eles podem projetar a partir de notícias, relatórios policiais sobre colisões — todo tipo de informação para desafiar ativamente os veículos autônomos e outros agentes de IA física”, disse Sun.

Hoje, os desenvolvedores de veículos autônomos treinam principalmente uma IA para lidar com casos de borda usando filmagens gravadas que depois transformam em simulação, ou contando com humanos para criar novas ideias e projetá-las. Embora muitas empresas de veículos autônomos tenham feito o que a Laplace está propondo e começado a adotar a IA para criar casos de borda para treinamento — a empresa de caminhões autônomos Waabi vem à mente —, a necessidade desse tipo de tecnologia se tornará realmente evidente quando começarmos a colocar robôs generalizados no mundo real. 

“Há menos dados sobre robótica generalizada”, disse Sun. “Ninguém sabe quais serão os casos de borda no mundo real.”

Apesar de Sun e Liu virem da academia, sem pedigrees chamativos de empresas de tecnologia do Vale do Silício, os dois conseguiram começar a gerar receita e até mesmo obter um lucro modesto. A maior parte do dinheiro vem de casos de uso de direção autônoma, com clientes incluindo a fabricante japonesa de caminhões Isuzu e a empresa de caminhões autônomos Bot Auto, sediada no Texas. 

A Nvidia também é cliente, diz Sun. As duas empresas, junto com a T-Mobile, estão trabalhando juntas em um projeto piloto gratuito de cidade inteligente para San Jose, na Califórnia, para fornecer operações de tráfego de alto nível. A Laplace também está nos estágios iniciais de trabalho com parceiros que constroem robótica humanóide para armazéns.

A maioria dos contratos de clientes da Laplace hoje é baseada em projetos, e a empresa está trabalhando para transformar isso em receita recorrente. O objetivo de curto prazo da startup — que espera ser impulsionado por sua participação no Disrupt — é captar recursos e escalar para poder competir com seus rivais. 

O principal entre seus rivais é a Applied Intuition, uma startup badalada em estágio avançado que já levantou US$ 1,2 bilhão a uma avaliação pós-money de US$ 15 bilhões. A Isuzu também é uma das clientes da Applied. 

Sun não está muito preocupado. Ele acredita que a metodologia principal da Laplace de usar IA para testar IA é um “novo paradigma que muda totalmente os testes de IA física”, transformando-o em um “processo de teste interativo dinâmico”.

“Essa será a maior barreira competitiva (*moat*)”, disse ele.