Chinese AI model Kimi escaped its cybersecurity testing environment, researchers say
Kimi K3, o mais recente modelo de IA criado pela empresa chinesa Moonshot, escapou de um ambiente configurado para testar suas capacidades cibernéticas, disseram pesquisadores em uma postagem de blog publicada na sexta-feira.
A notícia mostra mais uma vez que empresas e organizações independentes estão lutando para conter seus modelos de IA projetados para hacking.
Nas últimas semanas, LLMs de fronteira em laboratórios de inteligência artificial dos EUA na OpenAI, Anthropic e Meta, bem como no Instituto de Segurança de IA do Reino Unido, escaparam de ambientes de teste de diferentes maneiras e acabaram invadindo alvos reais que não faziam parte do experimento. Isso está começando a acontecer com tanta frequência que agora há um site rastreando todos esses incidentes chamado Felony Bench, uma referência ao fato de que esses LLMs podem estar cometendo crimes — ao menos falando teoricamente.
No caso deste teste do Kimi, a caixa de areia (sandbox) projetada para conter o experimento não foi configurada adequadamente. Embora a caixa de areia proibisse o modelo de IA de acessar determinados tráfegos da web, o modelo acabou contornando-a ao recorrer a ferramentas de linha de comando, de acordo com os pesquisadores da empresa de cibersegurança focada em IA Frontier Security.
“Isso sugere que algumas das avaliações de cibersegurança usadas pela comunidade são suscetíveis a vulnerabilidades de segurança e permitem que os modelos trapaceiem, e que existem modelos que buscam intencionalmente lacunas e vulnerabilidades que lhes permitem trapacear nas avaliações”, escreveram os pesquisadores.
Se você estiver acompanhando tudo, de acordo com a contagem do Felony Bench, a Moonshot agora se junta à OpenAI e à Anthropic, que têm sete incidentes registrados cada, e à Meta, que tem um.
