A Safeworld consegue convencer as pessoas de que os robôs de IA geradora não vão machucá-las?

A grande tendência nos robôs é entregar o controle a um modelo de IA generativa, mas isso traz um problema: essa arquitetura não é previsível da mesma forma que os algoritmos tradicionais. Como você pode ter certeza de que seu novo robô humanoide será seguro?

O Dr. Ding Zhao, que dirige o laboratório de IA Segura na Universidade Carnegie Mellon, tem trabalhado nesse problema há quase toda a sua carreira. Agora, junto com o veterano executivo de startups Kyle Wong e o engenheiro de aprendizado de máquina Simo Rachidi, ele fundou uma empresa, a Safeworld, com o objetivo de resolvê-lo.

“O desafio de segurança de que estamos falando é uma combinação de, primeiro, avaliações probabilísticas de IA generativa realmente avançadas — como você subescreve o risco de um sistema probabilístico?”, diz Zhao. “A segunda parte, que é realmente difícil, é a parte da confiança, e você precisa de ambas para implantar um robô.”

A Safeworld está saindo do modo sigiloso hoje com uma rodada semente de mais de US$ 12 milhões, liderada pela Shine Capital e a16z Speedrun, com investimento adicional da Box Group, Carnegie Mellon University Endowment, Innovation Endeavors e SV Angel.

“O momento de construir um padrão de segurança da indústria é agora, enquanto os robôs estão sendo projetados e implantados”, disse Jonathan Lai, parceiro da a16z Speedrun, ao TechCrunch. “Quando você tiver robôs em residências colidindo com crianças e causando incidentes de segurança, será tarde demais.”

A especialidade da Safeworld é avaliar um sistema de controle robótico em simulações povoadas com modelos humanos realistas. Isso é semelhante ao desafio enfrentado por empresas como Tesla ou Wayve, que devem garantir que seus veículos respondam adequadamente a uma variedade de incidentes surpreendentes que possam encontrar na estrada. Mas isso será mais difícil para os robôs, argumenta Zhao, porque eles trabalham em ambientes não estruturados e porque cada instalação em que estiverem terá padrões de segurança diferentes.

“Uma das áreas mais comuns é se houver um ponto cego nesta fábrica específica”, disse Wong. “Qual é a velocidade ou qual é a distância de frenagem necessária para garantir que este robô não colida com um humano específico? Se um humano estiver carregando caixas, por exemplo, o robô detectará o humano ou não?”

Para responder a essa pergunta, a Safeworld construirá uma versão digital desse canto em um modelo como Genesis ou MuJoCo, inserirá uma simulação do robô que está avaliando, guiado por seu software real, e então executará milhares de cenários em que modelos humanos encontram o robô. Isso é mais difícil do que parece, segundo Zhao, porque as pessoas são imprevisíveis.

“Tropeçar e cair também é um bom exemplo de algo com o qual fazemos muitos testes com a simulação”, disse Wong. “Caso contrário, você teria que ir lá e tropeçar e cair pelo robô, o que é algo difícil de ficar fazendo o tempo todo.”

Há semelhanças definitivas entre a plataforma que a Safeworld está construindo e as ferramentas usadas internamente pelos fabricantes de robôs. Os fundadores, no entanto, acreditam que, além de sua experiência específica, os fabricantes de robôs vão querer que um terceiro valide seu trabalho, nem que seja para compartilhar informações sobre casos de segurança entre concorrentes.

“Muitas pessoas estão subestimando o quanto alguns desses casos extremos serão difíceis de resolver”, disse Zhao. “Não é o robô no vácuo, na demonstração, que nos preocupa. É o robô implantado em grande escala, com pessoas que potencialmente nunca operaram um robô antes.”

Vishal Dugar, CTO da Gritt Robotics, está desenvolvendo o cérebro de IA para robôs que atualmente ajudam trabalhadores a instalar painéis fotovoltaicos em fazendas solares de escala industrial e aspiram assumir tarefas de construção mais complexas. Sua empresa está fazendo parceria com a Safeworld enquanto desenvolvem suas simulações de segurança.

“A dificuldade com a maioria dos nossos sistemas é que é muito difícil provar formalmente fazendo alguma matemática, escrevendo algumas equações e dizendo ‘sim, o sistema foi verificado como seguro’”, diz Dugar. “Isso necessariamente tem que ser feito de forma empírica.”

Seus robôs operam ao lado de trabalhadores humanos, e garantir que seu braço robótico não os atinja é obviamente prioridade máxima. Verificar isso na prática exigirá considerar todos os tipos de cenários potenciais.

“Os humanos têm muitos tipos de aparências”, aponta Dugar. “Seus corpos podem estar em diferentes configurações. Eles podem estar ajoelhados, em pé. Eles podem estar tropeçando e caindo potencialmente. Eles podem estar agachados. Eles podem estar correndo. Você tem que responder a todos esses comportamentos que os humanos podem potencialmente exibir nesses locais, junto com a variedade de variações na aparência humana, você sabe, roupas, tamanho, forma, altura, cor da pele, todo o resto.”

Ainda é cedo tanto para a Safeworld quanto para a IA generativa na robótica, e a empresa ainda está descobrindo o melhor modelo para seu produto — uma plataforma para usuários externos ou uma abordagem baseada em serviços? —, mas a equipe está confiante de que está enfrentando o problema certo.

“Provavelmente seremos a primeira empresa lucrativa neste campo”, diz Zhao. “Porque se alguém quiser implantar, precisará nos pagar para lidar com a situação.”