Criptografia, spyware e agora o Mythos: a história mostra por que o controle de exportação cibernética não funciona

Na última sexta-feira, alegando preocupações não especificadas com a segurança nacional, a Casa Branca ordenou que a Anthropic restringisse a exportação de seus poderosos modelos de IA, Fable e Mythos, para qualquer pessoa fora dos Estados Unidos, bem como para estrangeiros que se encontrassem no país. Logo em seguida, a gigante da IA retirou às pressas os dois modelos do ar, que já estão indisponíveis para qualquer pessoa há uma semana. 

O episódio é o primeiro teste real para verificar se o governo dos EUA pode usar controles de exportação para conter a IA de ponta da mesma forma que tentou, com resultados muito desiguais, conter a criptografia e os spywares anteriormente. E, por mais dramático que possa parecer, a forma como esse impasse for resolvido poderá definir não apenas o acesso da Anthropic aos mercados estrangeiros, mas também o conjunto de regras que outros laboratórios de IA terão de seguir.

Primeiro, um pouco de contexto. Desde que a Anthropic lançou o Mythos em abril, a empresa o comercializou como uma espécie de máquina cibernética apocalíptica que poderia causar estragos na internet se fosse amplamente divulgada — e é por isso que, antes da proibição, apenas cerca de 150 empresas e organizações governamentais previamente avaliadas tinham acesso a ele. O objetivo era ajudar os defensores a proteger seus softwares e serviços antes que os malfeitores pudessem alcançar capacidades semelhantes às do Mythos. 

Então, o que motivou a proibição? Dois eventos subsequentes, segundo relatos. O primeiro: a Anthropic concedeu acesso ao Mythos a uma empresa de telecomunicações sul-coreana por meio de seu programa de parceria limitada, e autoridades americanas ficaram alarmadas após identificarem a empresa como uma das que suspeitavam ter ligações com a China. (A empresa, amplamente identificada como a SK Telecom, negou qualquer conexão com a China.) O CEO da Amazon, Andy Jassy, também teria alertado o governo depois que os próprios pesquisadores da Amazon, segundo ele, encontraram uma maneira de contornar as proteções do Fable 5. A Anthropic contesta o rótulo de “jailbreak”, chamando-o de um problema específico e já corrigido, em vez de uma derrota total das medidas de segurança do modelo.

O resultado foi o mesmo: o Departamento de Comércio emitiu uma diretiva de controle de exportação, e a Anthropic teve que agir rapidamente para limitar imediatamente o acesso aos seus produtos em cerca de 90 minutos após ser notificada, segundo algumas fontes.

No entanto, nada disso é novidade. Há décadas os governos tentam usar controles de exportação para limitar a proliferação do que consideram tecnologia cibernética perigosa, mas seu histórico tem sido, na melhor das hipóteses, mediano. 

O governo dos EUA esteve por trás do que talvez tenha sido o fracasso mais espetacular dessa abordagem na história, no início e meados da década de 1990. Na época, cientistas da computação estavam desenvolvendo tecnologias de criptografia para proteger dados enquanto eles trafegavam pela internet. Um desses produtos de criptografia chamava-se Pretty Good Privacy, ou PGP, um software popular capaz de criptografar dados e tornar praticamente impossível decifrá-los, mesmo que fossem interceptados enquanto viajavam pela internet até o destinatário pretendido. 

Inicialmente, o governo dos EUA viu o PGP como uma arma perigosa, temendo que ele impedisse suas agências de inteligência de espionar e-mails enquanto estes transitavam por suas redes. Para impedir a distribuição do PGP, o Serviço de Alfândega dos EUA abriu uma investigação criminal contra o criador do PGP, Phil Zimmermann, por supostamente violar os controles de exportação de armas. Ele reagiu publicando o código-fonte do PGP em um livro impresso, dando início ao que hoje é conhecido como as “Guerras da Criptografia”. 

Zimmermann venceu posteriormente uma batalha decisiva quando a investigação foi encerrada, abrindo caminho para algoritmos cruciais de criptografia de ponta a ponta, como o utilizado por bilhões de usuários do Signal e do WhatsApp. 

Mais tarde, no início da década de 2010, pesquisadores começaram a descobrir softwares espiões de fabricação ocidental usados contra dissidentes no Oriente Médio. Em resposta, vários governos concordaram em ampliar o Acordo de Wassenaar, um tratado internacional que limita a exportação de softwares e tecnologias de dupla utilização, empregados tanto em aplicações civis quanto militares.

A ideia era classificar softwares de vigilância e hacking como de dupla utilização, obrigando assim os fabricantes de spyware a obter licenças de exportação para vender seus produtos no exterior. 

Entre em contato conosco

Você tem mais informações sobre a proibição do Mythos? A partir de um dispositivo e rede que não sejam do trabalho, você pode entrar em contato com Lorenzo Franceschi-Bicchierai de forma segura pelo Signal no número +1 917 257 1382, ou via Telegram e Keybase @lorenzofb, ou por e-mail.

Mas o Acordo de Wassenaar sempre teve duas fraquezas inerentes. Existem vários países que não aderem ao acordo, incluindo Israel, que abriga alguns dos fabricantes de spyware mais ativos do mundo.

O acordo também depende de que os países o apliquem às empresas dentro de suas fronteiras, a seu próprio critério. Por um tempo, o governo italiano concedeu à Hacking Team — na época, uma das principais fabricantes de spyware do país — uma licença para exportar suas ferramentas para todo o mundo, apesar do histórico da empresa de vender spyware a governos opressivos que o utilizavam para invadir os dispositivos de jornalistas e ativistas de direitos humanos. 

Desde então, outros países da Europa têm sido tão negligentes quanto a Itália com os fabricantes de spyware. Apesar dos inúmeros escândalos, a Europa, que abriga muitos fabricantes de spyware e ferramentas de hacking, tem falhado continuamente em coibir a exportação de spyware para regimes autoritários. Críticos afirmam que um esforço recentemente renovado em todo o bloco de 27 Estados-membros para combater o crescente problema das exportações de spyware para Estados autoritários “não vai longe o suficiente”.

Vários fabricantes de spyware, como a Intellexa — um consórcio de empresas de spyware sujeito a sanções —, simplesmente transferiram suas operações para países com controles de exportação mais frouxos. Outros fabricantes de spyware tentaram transferir suas operações para a Arábia Saudita por motivos semelhantes.

Houve algumas vitórias. A FinFisher, fabricante de spyware sediada na Alemanha, encerrou suas atividades em 2022 após uma investigação de vários anos conduzida por promotores alemães contra a empresa por supostamente vender spyware à Turquia sem licença de exportação. Investigadores haviam constatado anteriormente que o spyware da FinFisher havia sido instalado nos telefones de críticos do governo turco. 

Até o momento da redação deste artigo, o impasse entre a Anthropic e o governo Trump permanece. Há uma chance razoável de que o governo ceda e suspenda a restrição, com o objetivo de manter as empresas americanas de IA competitivas em todo o mundo — uma medida que equivaleria a um reconhecimento tácito de que laboratórios de IA em outros lugares, inclusive na China, provavelmente alcançarão capacidades semelhantes, independentemente das restrições impostas pelos EUA. Ou então, as empresas americanas de IA podem acabar precisando de aprovação do governo antes mesmo de atender clientes estrangeiros — um ônus de conformidade que, inevitavelmente, prejudicaria seus resultados financeiros. 

Considerando as experiências passadas que governos em todo o mundo tiveram ao tentar controlar o alcance do software, é improvável que controles de exportação impostos pelo governo sejam a abordagem correta para impedir que agentes mal-intencionados abusem de poderosas tecnologias cibernéticas de dupla utilização.