Apple e Google ordenadas a remover aplicativos de nudez das App Stores

A cidade de São Francisco ordenou que a Apple e o Google removam de suas lojas de aplicativos dezenas de aplicativos de “nudify” — programas de software que podem alterar digitalmente fotos para despir as pessoas nelas retratadas.

A lei da Califórnia criminaliza qualquer atividade que “facilite conscientemente” ou “ajude ou seja cúmplice de forma imprudente” da criação de pornografia de deepfake não consensual. Em 2025, a Califórnia também aprovou uma lei que permite que as vítimas processem ações civis contra facilitadores terceirizados desse material. A cidade afirma que, apesar dessas regulamentações bem conhecidas, ambas as empresas de tecnologia continuaram a hospedar e a lucrar com esses programas.

“A Apple e o Google estão lucrando com aplicativos que exploram mulheres e meninas ao gerar deepfakes íntimos não consensuais”, afirmou o procurador da cidade de São Francisco, David Chiu, em um comunicado enviado por e-mail ao TechCrunch. “Embora as empresas tenham cortado laços com alguns aplicativos problemáticos, a Apple e o Google têm a responsabilidade de serem proativos e vigilantes para prevenir abusos sexuais.”

Cartas enviadas ao Google e à Apple pelo escritório de Chiu, que foram vistas pelo TechCrunch, observam que as empresas já “estavam cientes” de seu papel no “processamento de pagamentos para compras ilegais por quase um ano”, mas, mesmo assim, continuaram a fazê-lo.

De acordo com as cartas, ambas as empresas foram alertadas repetidamente de que hospedam esses aplicativos. Em janeiro e novamente em abril, o Tech Transparency Project emitiu relatórios e enviou cartas a ambas as empresas apontando que havia “dezenas de aplicativos” em suas lojas de aplicativos que “vendiam NCII [imagens íntimas não consensuais] de deepfake em troca de pagamentos” processados pelas firmas.

O relatório do TTP de abril afirmou que o Google e a Apple haviam “direcionado” intencionalmente os usuários para tais aplicativos e chamou ambas as empresas de “participantes fundamentais na disseminação de ferramentas de IA que podem transformar pessoas reais em imagens sexualizadas”.

Além disso, Chiu disse à Wired que ambas as empresas provavelmente ganharam “milhões de dólares em taxas” de aplicativos que ofereciam tais serviços.

As cartas do escritório de Chiu alertam que a Apple e o Google podem enfrentar penalidades civis por violarem a lei e solicitam que entrem em contato com a cidade dentro de 28 dias.

Quando contatado para comentar pelo TechCrunch, um porta-voz da Apple afirmou que aplicativos de nudify são proibidos de aparecer em sua App Store, observando ainda: “Removemos três dos aplicativos em questão e estamos no processo de encerrar suas contas de desenvolvedor do nosso programa. Estamos em contato com outros quatro que precisam resolver violações de política ou correm o risco de serem removidos também.”

Um porta-voz do Google alegou que todos os cinco aplicativos do Play mencionados na carta de Chiu foram suspensos do Google Play. “Quando violações nos são relatadas, investigamos e tomamos medidas rápidas, que no caso desses aplicativos incluíram a suspensão de centenas de aplicativos violadores e a restrição de termos de pesquisa relacionados como ‘nudify’ em nossa loja”, acrescentou o porta-voz.

A pornografia de deepfake tem sido em grande parte um problema para celebridades femininas, embora os aplicativos de nudify tornem possível que qualquer pessoa com uma foto publicamente disponível seja alvo.

Atualização em 17 de julho: Este artigo foi atualizado para incluir declarações do Google e da Apple.