A Laplace Intelligence testa a segurança de robôs e carros autônomos antes que eles cheguem ao mundo real

Se há uma lição que o incidente entre a OpenAI e a Hugging Face nos ensinou, é que os agentes de IA podem ser imprevisíveis. 

“Imagine se algo assim acontecesse no mundo físico”, disse ao TechCrunch Howie Sun, CEO e cofundador da Laplace Intelligence. “Os agentes de IA estão saindo dos computadores para o mundo real, e nós realmente não queremos que a IA física falhe no mundo real.”

Com sede em Ann Arbor, a Laplace está desenvolvendo testes de intrusão automatizados (*red-teaming*) — essencialmente, submetendo um sistema a testes de estresse ao tentar fazê-lo falhar deliberadamente — para robótica e IA física. A empresa aposta que a única maneira de garantir que a IA física seja segura é fazer com que uma IA a teste.

“Nosso objetivo é ajudar as empresas a descobrir e corrigir problemas antes da implantação e, com o tempo, construir uma base compartilhada de evidências em que clientes, seguradoras e órgãos reguladores possam confiar”, afirmou Sun.

A Laplace é uma das 20 startups que competem no Startup Battlefield 200, a competição de pitches de startups que ocorre no TechCrunch Disrupt em São Francisco esta semana, de 13 a 15 de outubro. Ela se apresentará no palco do Disrupt na terça-feira à tarde, 13 de outubro.

Sun, junto com seu cofundador e cientista-chefe Henry Liu, fundou a Laplace há um ano na Universidade de Michigan. Sun passou os últimos oito anos na academia pesquisando como desafiar a IA de direção autônoma em simulação. Em 2023, ele e Liu — que na época era seu orientador de doutorado — publicaram um artigo sobre o assunto que foi capa da principal revista científica, a Nature. Foi aí que começaram a surgir ligações de empresas de veículos autônomos interessadas em implementar suas ideias. 

“Percebi que queria construir isso e levá-lo de uma pesquisa puramente acadêmica para um produto útil no mundo real”, disse Sun. 

Usando sua pesquisa acadêmica como base, Sun e Liu criaram a Laplace, cujo nome é uma referência ao “demônio de Laplace”, uma experiência mental de 1814 do estudioso francês Pierre-Simon Laplace, que imaginou que, se você conhecesse o estado exato de tudo no universo, poderia prever o futuro com precisão total.

“Estamos essencialmente usando a simulação para prever o futuro do mundo real”, disse Sun. 

No centro da startup está uma simulação de alta fidelidade reconstruída a partir do mundo real, combinada com um agente de IA que busca constantemente por fraquezas e pontos de falha. O objetivo é garantir que qualquer IA física — seja um robô, veículo autônomo ou solução de cidade inteligente — seja segura em simulação antes de ser implantada no mundo real. 

O ambiente de simulação é uma versão pós-treinada do Cosmos da Nvidia, uma plataforma de simulação de mundos de IA fundamentada no mundo real, o que permite à Laplace reconstruir qualquer coisa, desde uma rodovia no Arizona até uma faixa de pedestres em Paris. As simulações são geradas combinando uma malha de diferentes informações do mundo real. Uma imagem do Google Street View pode servir como referência a partir da qual uma rua inteira é gerada. Mas, em vez de gerar algo aleatório, o simulador combina dados de mapas do mundo real para recriar um ambiente que seja fiel à escala. 

Os desenvolvedores podem usar comandos de texto (*prompts*) para alterar o cenário em tempo real, como adicionar o tráfego do horário de pico. Sun diz que a Laplace obtém informações de trânsito e congestionamento em tempo real de provedores de navegação como a TomTom. 

Nas simulações da Laplace, não apenas o ambiente é simulado, mas também o comportamento de outros atores. Por exemplo, durante uma demonstração, Sun direcionou o veículo do agente de teste para invadir a contramão. O carro que teria sido atingido — ou atravessado, como é comum em alguns modelos de mundo gerativos — saiu do caminho para evitar uma colisão. 

“É verdadeiramente um ambiente de simulação interativo”, disse Sun. “Todo mundo está reagindo a tudo... Isso se parece mais com um modelo de mundo com participantes interativos.”

Embora o ambiente simulado seja uma parte importante do produto da Laplace, o verdadeiro diferencial competitivo são os agentes de IA que a startup está desenvolvendo para criar automaticamente casos limite (*corner cases* — cenários complexos e raros que podem desestabilizar um sistema de IA), afastando ainda mais o elemento humano do processo. 

“Eles podem projetar a partir de notícias, de boletins de ocorrência da polícia sobre colisões — todo tipo de informação para desafiar ativamente os veículos autônomos e outros agentes de IA física”, disse Sun.

Hoje, os desenvolvedores de veículos autônomos treinam principalmente uma IA para lidar com casos extremos usando gravações de vídeo que depois transformam em simulação, ou contando com humanos para ter novas ideias e projetá-las. Embora muitas empresas de veículos autônomos tenham feito o que a Laplace está propondo e começado a adotar a IA para criar casos extremos de treinamento — vem à mente a empresa de caminhões autônomos Waabi —, a necessidade desse tipo de tecnologia se tornará realmente evidente quando começarmos a colocar robôs generalizados no mundo real. 

“Há menos dados sobre robótica generalizada”, disse Sun. “Ninguém sabe quais serão os casos extremos no mundo real.”

Apesar de Sun e Liu virem da academia, sem o histórico de empresas de tecnologia badaladas do Vale do Silício, os dois conseguiram começar a gerar receita e até obter um lucro modesto. A maior parte do dinheiro vem de casos de uso de direção autônoma, com clientes que incluem a empresa texana de caminhões autônomos Bot Auto e uma grande fabricante automotiva japonesa. 

A Laplace também está trabalhando com a Nvidia e a T-Mobile em um projeto piloto gratuito de cidade inteligente para San Jose, na Califórnia, para fornecer operações de tráfego de alto nível. A Laplace também está nos estágios iniciais de trabalho com parceiros que constroem robôs humanoides para armazéns.  

A maioria dos contratos de clientes da Laplace hoje é baseada em projetos, e a empresa está trabalhando para transformar isso em receita recorrente. O objetivo de curto prazo da startup — que espera ser impulsionado por sua participação no Disrupt — é levantar fundos e escalar para poder competir com seus rivais. 

O principal entre seus rivais é a Applied Intuition, uma startup em estágio avançado que já arrecadou US$ 1,2 bilhão até o momento, com um *valuation* pós-money de US$ 15 bilhões.

Sun não está muito preocupado. Ele acredita que a metodologia central da Laplace de usar IA para testar IA é um “novo paradigma que muda completamente os testes de IA física”, transformando-o em um “processo de teste interativo dinâmico”.

“Essa será a maior barreira de proteção (*moat*)”, afirmou. 

Este artigo foi atualizado para esclarecer a relação da Laplace com a Nvidia.