HiddenLayer capta 100 milhões de dólares enquanto empresas correm para proteger suas implementações de IA

Quando a startup de segurança de IA HiddenLayer captação sua Série A de US$ 50 milhões há três anos, uma das grandes questões no setor era se as ameaças de IA contra as quais a startup estava se protegendo se manifestariam em quantidade suficiente para formar um mercado real. Como meu ex-colega Kyle Wiggers observou na época, era difícil encontrar exemplos reais de ataques contra IA em grande escala.

Como as coisas mudaram rápido. Empresas de segurança agora estão correndo para construir produtos que possam monitorar não apenas agentes, mas também as ferramentas e complementos que eles usam. Embora ainda não haja muitas manchetes sobre agentes sendo explorados, o risco de agentes enlouquecerem durante a produção é, no entanto, real. E assim o mercado de ferramentas para evitar que isso aconteça explodiu: o Gartner estima que as empresas gastarão US$ 2,83 bilhões este ano em produtos destinados a proteger ferramentas de IA, 83% a mais que em 2025, e espera que os gastos cheguem a quase US$ 4,78 bilhões no próximo ano.

A HiddenLayer, que cria ferramentas para proteger modelos de IA, agentes e fluxos de trabalho contra ataques adversários, vulnerabilidades e injeções de código malicioso, tem conseguido aproveitar bem essa mudança. Seu cofundador e CEO, Chris Sestito, disse ao TechCrunch que a receita recorrente anual da startup cresceu mais de 10 vezes no ano passado. Ele recusou-se a fornecer um número exato, mas disse que a ARR está agora na casa das “dezenas de milhões” de dólares, e mais de 90% desse crescimento foi impulsionado por novos clientes que fecharam contratos no ano passado.

Empresas de serviços financeiros e grandes empresas de tecnologia que criam produtos de IA são atualmente os maiores setores da empresa, que também possui contratos com o Departamento de Defesa e a comunidade de inteligência. Um de seus clientes é aparentemente um “provedor líder de modelos de fronteira” com “mais de 700 milhões de usuários semanais”, o que me soa como OpenAI ou Anthropic.

Para aproveitar ao máximo esse momento, a startup agora captou US$ 100 milhões em uma rodada de financiamento da Série B liderada pela Delta-v Capital, com a participação da Ten Eleven Ventures, Morgan Stanley, M12 da Microsoft, Booz Allen Hamilton e outros.

A startup sediada em Austin ainda vende basicamente o mesmo que vendia em 2023, mas Sestito disse ao TechCrunch que a maior mudança que teve que fazer foi estender seus produtos existentes — descoberta, proteção em tempo de execução, simulação de ataques e segurança da cadeia de suprimentos — para combater a injeção de comandos (prompt injection), manipulação de agentes e o uso malicioso de ferramentas.

“A inferência ainda é inferência. Portanto, seja em um modelo de aprendizado de máquina tradicional, seja em IA generativa, seja em um fluxo de trabalho agêntico, grande parte da nossa tecnologia ainda se aplica. Então, na verdade, não tivemos que mudar de direção (pivotar), mas tivemos que expandir nosso escopo... da modelagem tradicional para a IA generativa e para os agentes”, disse ele.

Sestito enfatizou que a segurança em tempo de execução se tornou especialmente uma prioridade à medida que as implantações de IA se tornam comuns nas empresas, comparando-a a soluções tradicionais de detecção e resposta de endpoints (EDR), mas voltada especificamente para IA.

Os novos produtos da empresa refletem essa mudança, e Sestito destacou uma nova oportunidade para atacantes na exploração de modelos de código aberto. “Analisamos e escaneamos cerca de 50 estruturas de arquivos de IA diferentes para garantir que, especialmente no caso de modelos de código aberto e pesos abertos, a ferramenta com a qual você está trabalhando seja aquela que você acredita que seja, e seja aquela que ela finge ser. Estamos observando coisas como modelos que fingem ser uma coisa, mas são outra — modelos escondidos dentro de modelos”, afirmou.

A startup diz que os novos US$ 100 milhões ajudarão a crescer nessa direção, embora com maior foco em vendas e distribuição, enquanto continua expandindo sua engenharia e pesquisa. Ela também planeja expandir para a Europa e a região EMEA.

No entanto, a HiddenLayer pode acabar tendo que usar esse caixa para mais do que isso. Grandes empresas de cibersegurança, como Cisco, Palo Alto Networks e Check Point, muitas vezes preferem comprar em vez de construir esse tipo de tecnologia, enquanto startups como Noma e Zenity arrecadaram mais de US$ 100 milhões cada para atuar em áreas adjacentes ou sobrepostas a este mercado.

Sestito reconheceu que algumas partes dos produtos de segurança de IA oferecidos por sua empresa poderiam eventualmente ser agrupadas nas plataformas construídas por empresas como Microsoft, OpenAI e AWS. No entanto, ele espera que a infraestrutura de IA evolua em direção a recursos de governança, como descoberta, identidade e controles de políticas, em vez do tipo de ferramenta que sua empresa constrói.

Por enquanto, ele diz que o trabalho da HiddenLayer é “crescer verticalmente junto com a inteligência artificial” e, eventualmente, expandir-se horizontalmente para áreas da cibersegurança que dependem cada vez mais de IA. Esse é um objetivo ambicioso, mas a startup primeiro precisa provar que consegue transformar sua vantagem inicial em um negócio duradouro antes que o resto da indústria a alcance.