Amex apresenta uma estrutura para impedir que agentes de IA façam compras não autorizadas

Agentes de IA pessoais estão fazendo transações em nome de seus usuários com cada vez mais frequência, mas, dada a natureza não determinística dos grandes modelos de linguagem, os bots de IA são propensos a fazer o que não deveriam. O que, neste caso, aumenta a possibilidade de a IA falhar e realizar transações não autorizadas.

Para se antecipar a esse problema, a American Express está lançando uma nova estrutura projetada para capturar e autenticar a intenção de compra de um cliente antes que um agente de IA conclua a transação.

A ideia é que haja uma maneira de garantir que as instruções de compra do cliente sejam carregadas durante todo o ciclo de vida da transação, diz a Amex, desde a compra até tudo o que se segue.

Batizada de “Intent Intelligence Framework” (Estrutura de Inteligência de Intenção), a empresa espera que ela se torne um padrão da indústria para transações impulsionadas por IA.

“Essas novas transações terão um consumidor, um comerciante e um agente”, explicou a vice-presidente de Parcerias e Estratégia de Agentes da Amex, Hannah Bozian, em entrevista ao TechCrunch. Ela afirmou que a empresa queria garantir que as transações de agentes continuem sendo “integradas, confiáveis e seguras, do jeito que nossos portadores de cartão esperam que sejam”.

O lançamento dessa estrutura ocorre após a introdução, em abril, do Amex Agentic Commerce Experiences (ACE Developer Toolkit), que inclui um conjunto de serviços que agora passa a contar com a estrutura de intenção.

A Amex afirmou que ainda não viu um aumento em disputas devido ao comércio de agentes, mas quis ser proativa na construção dessa tecnologia à medida que esse tipo de comércio ganha escala. Em parte, isso acontece porque os consumidores sinalizaram que estão abertos a experimentar o comércio de agentes.

Em um relatório recente do Amex Trendex, 66% dos consumidores norte-americanos pesquisados disseram que provavelmente usarão agentes de IA para pesquisar o melhor preço de um produto ou serviço, e 61% disseram que provavelmente os usarão para recomendações de produtos ou serviços nos próximos 12 meses, informou a empresa ao TechCrunch.

Para começar, a nova estrutura de intenção da Amex se inicia com uma API Create Intent (Criar Intenção), que capturará as instruções de compra do cliente junto com outras restrições que ele possa ter incluído em sua solicitação, como o nome do comerciante, orçamento máximo e outras preferências de produto. A forma como essa intenção é coletada pode variar dependendo do modelo de IA envolvido, mas o plano é tornar essa estrutura flexível o suficiente para apoiar todos os modelos de comércio de agentes, disse Bozian.

O cliente então autentica sua identidade e aprova a intenção capturada pelo agente.

Em seguida, um Intent ID (ID de Intenção), que é um identificador exclusivo que representa a intenção, é criado, juntamente com um Proof of Intent Token (Token de Prova de Intenção), que inclui as restrições de alto nível do cliente. Esse token é usado para obter uma credencial de pagamento digital segura que o agente usará no checkout em vez do número real do cartão de crédito do cliente. Ao fazer isso, diz a Amex, a compra continuará segura e alinhada com o que o cliente autorizou o agente a fazer.

Esse ID de Intenção e o token também podem ser usados em diferentes partes do processo de transação, ajudando as empresas a gerenciar áreas como prevenção contra fraudes e resolução de disputas, afirmou a Amex.

“Nossa abordagem difere das implementações de terceiros porque ela puxa a intenção para o início do fluxo de transações. E isso é importante porque ajuda a mitigar alguns riscos antes que eles ocorram”, disse Bozian. Ela deu o exemplo de um cliente que pede a um agente para comprar tênis Nike brancos tamanho 9, mas o agente envia uma solicitação para comprar sapatos da Adidas. Nesse caso, a Amex poderia impedir que a transação fosse concluída porque o agente cometeu um erro.

Bozian também observa que, embora muitos agentes hoje peçam o consentimento do cliente antes de fazer uma compra, a Amex prevê um futuro onde os agentes possam agir de forma muito mais autônoma em alguns casos. Por exemplo, um consumidor pode permitir que seu agente recompre itens essenciais para a casa, como papel toalha ou papel higiênico — categorias em que a única restrição real é o preço e o tamanho, e não o comerciante ou a marca. nesses cenários, faz sentido ter a tecnologia integrada executando essa verificação extra, para garantir que as transações correspondam à intenção do cliente.

Manter um registro do que foi autorizado por qual agente e quando também pode ajudar a combater fraudes em nome do agente, observou ela.

A Amex já está em discussões com parceiros em todo o ecossistema de pagamentos para implementar o ACE, que inclui os tokens de agentes contendo as credenciais de pagamento da Amex, bem como outras partes do kit de desenvolvimento.

A empresa disse que planeja desenvolver ativamente o ACE à medida que o ecossistema de comércio de agentes evoluir.

Em 13 de outubro, no palco da indústria do TechCrunch Disrupt 2026, a vice-presidente de Parcerias e Estratégia de Agentes da American Express, Hannah Bozian, discutirá com mais detalhes a nova “Intent Intelligence Framework” da empresa e o que ela significa para o mundo do comércio de agentes.