O banimento das modelos antropicas do governo dos EUA nunca foi sobre um escape de IA

O governo dos EUA enviou uma carta de cumprimento à Anthropic, que efetivamente forçou a empresa a desligar seus modelos de IA mais recentes apenas antes do fim de semana, e isso deve ser um chamado de atenção para qualquer empresa de tecnologia dos EUA — laboratório de IA ou não.

Para você se manter atualizado sobre as notícias: Na tarde de sexta-feira, o Departamento de Comércio dos EUA enviou uma carta à Anthropic invocando uma diretriz de controle de exportação obscura que proibiu não-americanos, incluindo funcionários da Anthropic, de acessar o Fable 5 e o Mythos 5, citando uma preocupação de segurança nacional não especificada. A Anthropic disse que acredita que a carta está relacionada a um bypass dos guardrails do modelo, mas não está certa porque a carta não fornece detalhes específicos. A carta não foi divulgada ao público.

Em resposta, a Anthropic desligou ambos os seus modelos de topo para todos os clientes para garantir que estivesse cumprindo a diretriz. O resultado foi que o governo dos EUA conseguiu forçar uma empresa de tecnologia a desligar seus modelos com uma ação rápida e unilateral que não parecia exigir aprovação judicial.

A intervenção do governo dos EUA na sexta-feira mostra que a indústria de IA não está imune à interferência governamental. Além disso, é um aviso para a indústria de tecnologia mais ampla: cumpra, ou podemos desligar você e seus produtos.

A intervenção do governo dos EUA na sexta-feira mostra que a indústria de IA não está imune à interferência governamental. Além disso, é um aviso para a indústria de tecnologia mais ampla: cumpra, ou podemos desligar você e seus produtos.

Segundo fontes, o Axios descreveu uma situação tensa sobre o fim de semana entre os dois principais jogadores, dizendo que as "diferenças de personalidade" entre a Anthropic e a administração Trump levaram à diretriz de exportação, em vez de um problema técnico com os produtos de IA.

Novos detalhes sobre o problema que emergiram sobre o fim de semana agora lançam mais dúvidas sobre a razão já frágil do governo.

Katie Moussouris, uma veterana de segurança cibernética e pesquisadora que fundou a Luta Security, disse em um post de blogue que a Anthropic compartilhou recentemente com ela uma cópia privada de um artigo escrito por pesquisadores de segurança que descreve um suposto bypass dos guardrails no Fable 5. (O Wall Street Journal relata que os autores do artigo são pesquisadores de segurança na Amazon.) Moussouris disse que a Anthropic se aproximou para perguntar sua opinião sobre o artigo.

O post de blogue de Moussouris descreveu como os pesquisadores ativaram o bypass dos guardrails, mas disse que o bypass em si "nunca deveria ter ativado um controle de exportação". A diferença é basicamente entre pedir a um modelo de IA que "revisite o código para questões de segurança" versus pedir que "fixe esse código". O resultado final é basicamente o mesmo, mesmo que as perguntas sejam formuladas de forma ligeiramente diferente.

“O comportamento descrito no artigo não pode ser corrigido de forma significativa, e qualquer tentativa apenas enfraqueceria o modelo para a defesa,” disse Moussouris, que criticou a diretriz de controle de exportação como precipitada, pesada de mão e equivocada.

Moussouris e dezenas de outros principais pesquisadores de segurança e especialistas desde então chamaram a administração Trump para revogar a ordem de controle de exportação, chamando a movimentação de tirar capacidades de segurança avançadas de defensores de rede nos EUA de "perigosa".

As administrações passadas fizeram decisões abrangentes sobre lacunas de conhecimento. Por exemplo, a linguagem usada pelo governo dos EUA durante a década de 2010 para corrigir a lei de exportação que cobre ferramentas de segurança que também poderiam ser usadas para ataques cibernéticos foi tão ampla que, inadvertidamente, quase proibiu a pesquisa legítima de segurança e vulnerabilidade.

Contudo, a diretriz da administração Trump parece ser retaliatória.

Justin Hendrix, o editor do Tech Policy Press, disse que a diretriz da administração Trump é "provável de levantar alarmes em capitais estrangeiras sobre a confiabilidade da IA americana para aplicações críticas". A mensagem é que as empresas de IA nos EUA não podem ser confiadas para operar sem interferência do governo dos EUA.

A administração Trump não confirmou por que invocou sua diretriz de controle de exportação. Os funcionários do governo podem ter malinterpretado o relatório e se assustado? O CEO da Amazon, Andy Jassy, disse algo a funcionários seniores do governo que levou à reação, por cautela ou vingança? Algo foi perdido na tradução, ou isso foi uma forma de pressionar a Anthropic, com quem a administração já tem uma relação fratricida? É possível que a Casa Branca não estivesse ciente das consequências mais amplas da exigência da carta e os funcionários estejam se esforçando para desfazer o dano de sua própria ação.

Para citar Hendrix, “o clima é de uma nuvem de suspeita de que os funcionários seniores estão escolhendo favoritos com base em fatores pessoais e políticos.” O resultado é que o governo estabeleceu um precedente perigoso sobre o quanto de controle pretende exercer sobre a liberação de software feito nos EUA.

Esta vez, o governo se preocupou com a Anthropic; amanhã pode ser com qualquer outra pessoa.