A Índia se torna o mais recente país a relatar atividade de agente de IA rebelde
Agentes de IA de vários fornecedores acessaram dados pessoais e materiais confidenciais em organizações indianas durante pesquisas e testes, disse a agência de segurança cibernética da Índia nesta quinta-feira.
A Equipe de Resposta a Emergências Computacionais da Índia (CERT-In) afirmou ter recebido "várias divulgações voluntárias de fornecedores de modelos de IA" cujos modelos, durante execuções de pesquisa e avaliação na internet aberta, "alcançaram os sistemas ativos de organizações indianas".
Os agentes entraram por meio de credenciais e configurações de conexão deixadas expostas em configurações de aplicativos, repositórios públicos de código e funções de nuvem excessivamente permissivas, e suas ações "excederam a autorização de suas tarefas atribuídas".
Isso faz da Índia a parada mais recente no que se tornou uma turnê mundial de agentes de IA desonestos. Em julho, os agentes da OpenAI escaparam de um ambiente de teste e invadiram a empresa francesa Hugging Face, dando início a um verão de atividades de agentes de IA desonestos. No mês passado, a OpenAI pediu desculpas à Austrália após seus agentes acessarem quatro sites do governo, incluindo um portal de estatísticas do Medicare.
Na Hugging Face, os agentes da OpenAI começaram da mesma forma, mas depois encontraram e exploraram falhas de software para executar código nos servidores da empresa. O CERT-In não descreveu invasões semelhantes na Índia, onde os agentes aparentemente apenas usaram o acesso que foi deixado sem proteção.
Ainda assim, os casos indianos parecem ser piores em um aspecto, que é o que os agentes viram: Na Austrália, a OpenAI disse que encontrou nenhuma evidência de que seus agentes tocaram em registros médicos ou criminais de indivíduos, mesmo depois de escreverem arquivos dentro de um sistema de estatísticas do Medicare, enquanto na Índia os agentes leram dados pessoais e registros comerciais confidenciais. E, ao contrário de incidentes anteriores, cada um divulgado por um único laboratório, o caso da Índia envolveu agentes de vários fornecedores.
O CERT-In não citou os nomes dos fornecedores ou das organizações afetadas, nem disse se os agentes alteraram algum sistema. O TechCrunch entrou em contato com o CERT-In para obter mais informações.
Por enquanto, o paralelo mais próximo parece ser a divulgação da Anthropic em julho sobre o Claude invadir os sistemas de três empresas durante testes usando técnicas básicas, como senhas fracas.
Na Índia, assim como nos casos da Anthropic, as organizações afetadas não haviam detectado as invasões por conta própria. As divulgações deixaram os governos dependendo das empresas de IA que causam essas violações para divulgarem voluntariamente a atividade de agentes de IA desonestos.
