Hugging Face confirma violação que afetou conjuntos de dados internos e credenciais, insta usuários a tomarem medidas
Hugging Face, uma plataforma que hospeda modelos de IA e conjuntos de dados, afirmou que seus conjuntos de dados internos e credenciais de serviço foram comprometidos em um ataque cibernético na semana passada. A empresa divulgou a invasão na sexta-feira, mas disse que ainda está investigando se algum dado de clientes ou parceiros foi roubado durante o incidente.
Em uma postagem no blog, a empresa afirmou que um conjunto de dados enviado à sua plataforma explorou uma vulnerabilidade de segurança para executar código malicioso em seus servidores, permitindo que os invasores elevassem suas permissões e obtivessem acesso mais amplo aos sistemas internos da Hugging Face.
A empresa informou que revogou e rotacionou as credenciais roubadas que foram acessadas. Ela instou os usuários a fazerem o mesmo com quaisquer chaves armazenadas na plataforma e a revisarem qualquer atividade suspeita em suas contas.
A Hugging Face disse que corrigiu a vulnerabilidade que foi explorada durante o ataque cibernético. Embora seja comum que hackers tentem invadir a rede de uma empresa usando credenciais de funcionários roubadas, chaves ou um ponto fraco em seu perímetro de segurança, este incidente ressalta os desafios que empresas como a Hugging Face enfrentam quando hackers tentam abusar de plataformas e ferramentas para acessar e roubar dados confidenciais a partir de dentro.
A Hugging Face culpou pelo vazamento um agente de IA externo, que executou “muitos milhares de ações individuais em um enxame de ambientes de teste (sandboxes) de curta duração, com comando e controle auto-migrantes hospedados em serviços públicos.”
A empresa não forneceu imediatamente evidências para essa afirmação quando questionada pelo TechCrunch.
A Hugging Face disse que seu próprio sistema de detecção de anomalias identificou o ataque e usou um modelo de IA para analisar os logs do servidor que registravam o ataque cibernético.
A empresa afirmou que inicialmente usou um modelo de IA de fronteira de um provedor comercial, embora não tenha citado o nome da empresa, mas descobriu que o esforço de análise foi bloqueado pelas travas de segurança (guardrails) do provedor. Em vez disso, a empresa usou seu próprio modelo de linguagem de grande escala local, o que, segundo ela, trouxe o benefício adicional de não precisar enviar logs de ataques confidenciais para os servidores de uma empresa de IA.
Pesquisadores de segurança já haviam reclamado anteriormente que alguns modelos de fronteira, como o Mythos e o Fable da Anthropic, são altamente restritos e impedem que defensores façam perguntas sobre quase qualquer assunto relacionado à cibersegurança, inclusive para fins de defesa e investigações.
Fabricantes de modelos de IA de fronteira, incluindo a Anthropic, têm entrado em conflito com o governo Trump devido a receios e preocupações sobre a capacidade de usar esses modelos para ataques cibernéticos ofensivos. A Anthropic foi até forçada a retirar o Fable do uso público depois que o governo dos EUA impôs controles de exportação sobre o modelo.
A Hugging Face disse que relatou o incidente às autoridades policiais e contratou especialistas forenses em cibersegurança para investigar a invasão e revisar sua segurança.
Não está claro se a Hugging Face havia realizado uma auditoria de segurança em seus sistemas antes do lançamento. Um porta-voz da Hugging Face não respondeu a um pedido de comentário na segunda-feira.
