Um chatbot consegue consertar o labirinto do governo? A Casa Branca está prestes a descobrir

O presidente Donald Trump anunciou na terça-feira que a Casa Branca está lançando o America.gov, um chatbot de inteligência artificial criado para ajudar as pessoas a encontrarem serviços governamentais e outras informações.

O Google confirmou que é parceiro neste lançamento e que seu modelo de IA, o Gemini, está envolvido, mas não está claro se outras empresas de IA também contribuíram.

“Em vez de forçar os cidadãos a pesquisarem no labirinto sem fim de dezenas de milhares de sites e regras do governo... agora vocês terão uma única porta de entrada para cada pergunta”, disse Trump em uma postagem no X.

Tornar os serviços governamentais mais fáceis de navegar é um objetivo válido, mas será que um chatbot de IA é a melhor maneira de fazer isso? Os grandes modelos de linguagem não são infalíveis e continuam propensos a alucinações. De fato, a CNN noticiou recentemente que os militares dos EUA quase lançaram uma operação armada contra uma embarcação chinesa que acreditavam estar transportando componentes para armas nucleares. Os militares abortaram a missão no último minuto ao perceberem que a suposta ameaça era apenas uma alucinação de IA.

Se alguém receber informações incorretas do America.gov, isso provavelmente não desencadeará uma guerra nuclear, mas um erro ainda pode ter consequências graves. As pessoas podem confiar neste chatbot para acessar informações sobre como solicitar auxílio-alimentação, renovar vistos ou declarar impostos, casos em que erros podem significar prazos perdidos, benefícios negados ou penalidades.