Pesquisadores estão rastreando uma frota de agentes de IA chinesa

Uma nova frota de agentes de IA está se fazendo notar na internet. No domingo, um grupo de pesquisadores independentes publicou descobertas preliminares sobre os agentes, observando que eles parecem estar rodando na infraestrutura da Tencent e tendo como alvo o serviço de mapas da Alibaba, o Amap.

Pesquisadores, no entanto, resistiram ao termo “enxame”, observando que parece haver pouca coordenação entre suas diferentes consultas. “‘Frota de agentes’, e não ‘enxame:’” escreveu um pesquisador no relatório preliminar, “muitos agentes paralelos no mesmo tipo de tarefa, sem nenhum sinal de comunicação entre eles.”

Os agentes foram descobertos monitorando o tráfego para o serviço de escaneamento de domínios urlquery, uma técnica que revelou anteriormente uma atividade de longa data de agentes da OpenAI. Agentes de IA frequentemente usam o urlquery para carregar sites que não conseguem acessar diretamente, deixando um registro de suas atividades que pode ser valioso para pesquisadores.

Nesse caso, o registro mostrou consultas ao serviço Amap da Alibaba, buscando direções para diferentes entradas de vários locais públicos, incluindo um parque, um zoológico e um hospital.

A pesquisa está em andamento e, portanto, há poucos detalhes disponíveis, mas o comportamento mostra quão persistente a atividade de agentes de IA se tornou na internet. Na sequência do incidente do Hugging Face, muitos pesquisadores estão monitorando ativamente a atividade de agentes mal-intencionados na internet. Grande parte dessa atividade tem sido fácil de encontrar porque os agentes tendem a usar as mesmas técnicas e fazem pouco esforço para se ocultar.

Nesse caso, os agentes não parecem ter feito nada mais nefasto do que burlar as regras de API da Alibaba — mas nem sempre poderemos ter tanta sorte.