Agentes de IA estão inundando os serviços públicos com novas solicitações

À medida que a IA facilita o preenchimento de formulários e o envio de reclamações, os serviços públicos em todo o mundo estão registrando aumentos enormes em inscrições e outras solicitações.

No Reino Unido, as reclamações ao ombudsman de habitação mais do que duplicaram desde a introdução do ChatGPT, subindo de 2.600 em 2022 para pouco mais de 7.000 no ano passado. O Consumer Financial Protection Bureau (CFPB) dos Estados Unidos registrou um crescimento de 5 vezes nas reclamações durante o mesmo período. Houve saltos semelhantes em petições judiciais no Brasil e petições parlamentares na Alemanha.

O pesquisador Chris Schmitz está monitorando esse aumento como parte de uma tendência mais ampla que ele chama de “inundação agêntica” (agentic flooding). Em um artigo com agendamento para ser apresentado no mês que vem na conferência AI Ethics and Society, ele analisa 84 casos diferentes de potencial inundação em 11 jurisdições, encontrando amplas evidências de que as ferramentas de IA estão mudando a forma como as pessoas interagem com os serviços públicos. 

A pergunta mais difícil é o que fazer em resposta. Embora alguns dos novos envios sejam claramente contraditórios ou mal-intencionados, outros são o resultado de requerentes legítimos que usam IA para apresentar reclamações que, de outra forma, seriam abandonadas. Enquanto alguns podem ver as novas solicitações como spam gerado por IA, Schmitz vê isso como uma oportunidade rara de reformular os serviços sociais para a era da IA.

Schmitz analisou serviços que vão desde pedidos de assistência social até recursos judiciais oficiais, mas todos eles possuem serviços online que podem ser acessados por um assistente de IA. (O conjunto de dados completo está hospedado aqui, para referência). Por motivos metodológicos, o artigo de Schmitz não chega a afirmar que a IA está causando diretamente o aumento de novos candidatos. No entanto, a maioria dos 84 casos segue o mesmo arco básico, onde os envios eram praticamente estáveis antes de 2022 e, em seguida, aumentaram a uma velocidade crescente à medida que a tecnologia de IA se difunde. Crucialmente, a maioria dos casos não viu esse crescimento desacelerar, sugerindo que provavelmente continuará subindo nos próximos anos.

Para Schmitz, é fácil ver como o aumento das habilidades e da disponibilidade da IA impulsionaria o uso crescente.

“As pessoas estão descobrindo que isso é algo que se pode fazer e, gradualmente, está apenas se tornando mais fácil de fazer... antes, podia ser uma questão de reunir muito contexto e dar comandos ao ChatGPT 3.5 com muita precisão; agora, pode ser uma questão de apenas colar ou tirar uma foto de uma carta com seu aplicativo Claude e obter uma resposta muito boa de uma só vez”, disse ele.

O salto no volume é semelhante ao que muitos serviços de recompensa por bugs (bug bounty) também experimentaram no ano passado, quando as empresas encontraram suas caixas de entrada inundadas de relatórios de baixa qualidade gerados por LLMs. Os relatórios raramente continham problemas de segurança significativos, mas as empresas ainda eram obrigadas a avaliar os relatórios à medida que chegavam, representando um dreno significativo de recursos. É fácil imaginar serviços públicos enfrentando um problema semelhante, gerenciando cinco vezes mais candidatos com o mesmo orçamento.

Mas, enquanto os programas de recompensa por bugs foram inundados com envios inúteis, Schmitz diz que a maioria das novas solicitações para serviços públicos vem de pessoas reais com reclamações legítimas. 

“A grande maioria dos casos que encontramos são de pessoas que têm direito de reivindicar algo, reivindicando essa coisa”, disse ele ao TechCrunch. 

Se essas pessoas não estavam reivindicando os benefícios antes, pode ser porque o trabalho de se inscrever era excessivamente difícil — algo conhecido no mundo político como fardo administrativo. Agora que a IA pode aliviar esse fardo, pode ser uma oportunidade de reformular muitos desses serviços de uma maneira mais amigável à IA.

É uma tarefa importante, que em sua maioria ainda não começamos a enfrentar, mas Schmitz vê isso como motivo de otimismo.

“Uma grande parte de fazer a IA funcionar bem é ser capaz de detalhar como é a versão boa das coisas. E qualquer um que já tenha usado o ChatGPT para fazer a declaração de imposto de renda sabe que há uma boa versão aqui em que você está sendo ajudado”, diz Schmitz. “Este pode ser o momento de dizer: ‘precisamos repensar praticamente tudo sobre como esse processo se parece’”.