A Meta quer que seus óculos de IA pareçam menos assustadores. Sua estratégia de IA diz o contrário.

Os óculos de IA da Meta têm uma reputação cada vez maior de tecnologia assustadora. A empresa espera mudar essa opinião ao anunciar uma atualização que desativará a câmera se a luz LED que indica que os óculos estão gravando tiver sido violada.

A medida parece ser uma concessão ao sentimento dos consumidores de que os óculos não são apenas acessórios divertidos e modernos, alegremente promovidos por Kylie Jenner, mas têm sérias implicações para a privacidade do consumidor: eles podem ser mal utilizados como dispositivos de vigilância.

No entanto, mesmo enquanto a Meta divulga o novo recurso de segurança esta semana, a empresa também está promovendo produtos e recursos que pedem aos usuários que abram mão de ainda mais de sua privacidade para a empresa.

Seja treinando sua IA em suas imagens, ativando recursos de IA usando seu conteúdo pessoal, a menos que você opte por recusar, ou explorando maneiras de gravar continuamente ou usar reconhecimento facial biométrico, a visão de futuro da Meta parece sempre depender da coleta de mais dados pessoais seus.

Em sua postagem no blog sobre o novo recurso de segurança da câmera, a empresa se gaba, observando que “nenhum outro tipo de câmera fez isso e estamos orgulhosos de liderar o esforço da indústria.” No entanto, a Meta também admite que a medida foi necessária porque algumas pessoas estavam usando fita adesiva para cobrir a luz LED, o que já havia obrigado a Meta a adaptar sua tecnologia para desativar a gravação quando o LED estiver bloqueado.

Determinados, esses mesmos usuários assustadores dos óculos de IA usariam então “esforços sofisticados para modificar ou destruir o LED de captura”, explica o anúncio da Meta.

Em outras palavras, a Meta está confirmando que algumas pessoas que usam óculos de IA têm agendas ocultas — nomeadamente o desejo de gravar situações ou pessoas (muitas vezes mulheres) sem o consentimento delas.

Apesar disso, fontes disseram recentemente ao Financial Times que a empresa está testando um protótipo de óculos de IA que “coletaria áudio continuamente enquanto tira fotos a cada poucos segundos”.

A postagem do blog da Meta sobre o recurso dos óculos tenta acalmar os temores das pessoas sobre a privacidade dos dispositivos, respondendo a perguntas como “quem pode ver as fotos e vídeos que tiro com meus óculos?” A Meta responde prometendo: “Você, e apenas você — a menos que escolha compartilhá-los.” No entanto, a política de privacidade da Meta explicou que qualquer imagem que você compartilhar com a Meta AI pode ser usada para treinar sua IA.

Enquanto isso, a empresa enfrenta múltiplas investigações e processos judiciais por violações de privacidade dos óculos Meta AI. Um processo surge depois que a Meta cancelou notavelmente um contrato com uma empresa de tecnologia terceirizada após alguns de seus trabalhadores quenianos alegarem que tiveram que visualizar conteúdo explícito, como sexo, nudez e pessoas usando o banheiro, ao treinar a IA da Meta usando os vídeos dos óculos Meta AI das pessoas.

Estes dificilmente são os primeiros deslizes da Meta com violações de privacidade ou medidas de segurança também.

Pode-se dizer que a reputação da Meta sobre privacidade está manchada há anos após numerosos vazamentos e processos judiciais perdidos sobre sua suposta falta de medidas de segurança infantil e desejo de crescimento a qualquer custo. Há livros escritos por denunciantes documentando seus alegados abusos, sem mencionar desastres de privacidade anteriores em grande escala, como o escândalo de dados da Cambridge Analytica e outros.

Após o escândalo da Cambridge Analytica em 2018, a Meta agora insiste em sua página de Atualização de Progresso de Privacidade: “Desde 2019, investimos significativamente em pessoas, produtos e tecnologia para continuar evoluindo nosso rigoroso programa de privacidade.”

Ainda assim, a empresa segue em frente com o que muitas pessoas considerariam ideias que violam a privacidade. Um exemplo: no mesmo dia em que anunciou o novo recurso de segurança dos óculos da Meta, a empresa compartilhou que a Meta AI agora pode usar as fotos públicas do Instagram de qualquer pessoa para criar imagens de IA, a menos que você opte por recusar.

A empresa também criou recursos para usar a Meta AI em fotos no rolo da câmera que você nunca compartilhou e implementou controles de privacidade tão ruins em seu aplicativo Meta AI, levando os usuários a se exporem essencialmente ao revelar suas buscas embaraçosas.

Esta é a mesma empresa com a qual a Apple não quis fazer parceria devido a preocupações com a privacidade, que grava as teclas digitadas por seus funcionários para treinar sua IA e que planeja vender anúncios direcionados com base nos dados de seus chats de IA.

Portanto, embora um recurso de segurança de LED nos óculos de IA possa ser uma funcionalidade necessária, os consumidores claramente ainda têm muitos motivos para desconfiar de como as redes sociais usarão suas imagens e dados, especialmente em seus planos de IA mais amplos.