Depois que uma voz de deepfake enganou seu avô, esta fundadora entrou em ação

Quando a ligação chegou, o avô de Tarini Padmanabhuni acreditava estar falando com seu irmão. A voz do outro lado da linha disse que ele havia sido sequestrado e que a única forma de recuperá-lo era pagar um resgate. O avô dela pagou, apenas para descobrir mais tarde que seu irmão estava em outro lugar completamente diferente, sem a menor ideia de que tudo aquilo estava acontecendo. Acontece que a voz era um deepfake, uma imitação gerada por inteligência artificial.

“O que me marcou não foi o dinheiro”, diz Padmanabhuni sobre o incidente. “Foi o fato de ele não ter como saber.”

Isso aconteceu há cerca de dois anos. Hoje, segundo ela, a DetectifAI, empresa sediada em São Francisco que ela fundou, tem como objetivo garantir que outras pessoas não sejam enganadas da mesma forma.

Este é um problema grande e em crescimento, com um mercado à altura. De acordo com o FBI, os americanos perderam perto de US$ 900 milhões em golpes impulsionados por IA no ano passado, um aumento de 24% em relação a 2024. Pessoas com 60 anos ou mais perderam o dobro do que aquelas na faixa etária de 50 a 59 anos.

Não há escassez de concorrentes em detecção de voz por deepfake, com empresas como Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety e Nuance (que também pertence à Microsoft). No entanto, argumenta Padmanabhuni, os produtos de detecção atuais rodam na nuvem em servidores remotos, de modo que os fabricantes de telefones não conseguem embuti-los diretamente em seus dispositivos, deixando a pessoa que está sendo visada com pouca margem de defesa.

Em vez de encolher grandes modelos de nuvem para caberem em um telefone, como fazem algumas empresas, a DetectifAI afirma que projeta modelos de IA compactos desde o início, que são pequenos o suficiente para rodar dentro do sistema operacional de um smartphone. O objetivo é fornecer um veredito instantâneo sobre se uma voz foi gerada por IA durante chamadas, em mensagens de voz e em outros áudios, sem que o áudio precise sair do dispositivo.

A DetectifAI está vendendo primeiro para fabricantes de telefones, licenciando suas ferramentas de software para que a detecção venha como um recurso integrado ao sistema operacional do celular. A analogia que ela faz é o papel da AT&T no lançamento do iPhone original, quando o acordo exclusivo da operadora a distinguiu de suas rivais: o primeiro fabricante de celulares a lançar a DetectifAI ganhará vantagem sobre os concorrentes, argumenta ela, e a detecção de deepfakes se tornará uma especificação padrão, como a resolução da câmera.

O núcleo do produto é o kit de desenvolvimento de software (SDK) da DetectifAI, um pacote de código que outras empresas podem incorporar em seus produtos e que pode ser licenciado por meio dos canais existentes. Padmanabhuni diz que uma fonte de receita secundária virá do licenciamento da tecnologia para empresas e firmas de prevenção a fraudes.

Enquanto isso, a startup já conta com receitas iniciais, segundo Padmanabhuni, e lida com mais de 100.000 ligações por mês para instituições financeiras na Índia. Essas chamadas são feitas por agentes de voz de IA que lidam com cobranças de dívidas e acompanhamento de documentos de empréstimo, com detecção de deepfake e verificação de locutor (confirmando que quem liga é quem diz ser) em todas as chamadas. Ela recusou-se a citar clientes, citando acordos de confidencialidade.

Padmanabhuni diz que começou a trabalhar com aprendizado de máquina aos 12 anos e posteriormente estudou sistemas ciberfísicos (tecnologia que une software a maquinário físico) no Manipal Institute of Technology, na Índia, onde afirma ter se tornado a líder de equipe mais jovem daquela que descreve como a primeira divisão de carros de corrida autônomos da Índia na Formula Student, uma competição internacional de engenharia estudantil.

Quando questionada sobre o momento mais gratificante para a startup até agora, ela aponta para um pequeno teste beta no WhatsApp, no qual os usuários encaminham notas de voz suspeitas e recebem uma avaliação sobre se são reais. Um testador, cujos próprios parentes haviam sido vítimas de golpes, ligou para dizer que pagaria por isso sem hesitar. “Meu avô não teve isso”, diz ela.

A DetectifAI levantou até o momento uma pequena quantia inicial (seed) dos investidores Josh Constine (ex-editor do TechCrunch) e Manohar Kamath, diretor da empresa de serviços de consultoria KM Growth. A empresa é uma das startups avaliadas pela equipe editorial do TechCrunch para competir em sua prestigiada competição Startup Battlefield, que acontece no TechCrunch Disrupt, de 13 a 15 de outubro, no centro de São Francisco.