This ‘adversarial’ pattern can prevent surveillance cameras from detecting you
Bill Swearingen passou o último ano executando essencialmente o mesmo teste, repetidas vezes. O objetivo era produzir um padrão gerado por computador que pudesse impedir que as câmeras de vigilância que revestem as ruas dos Estados Unidos o detectassem.
Cerca de 31 milhões de testes depois, Swearingen diz que agora pode produzir padrões sob demanda que, quando aplicados a roupas e objetos, impedem que alguns dos leitores de placas e câmeras de vigilância mais comumente implantados detectem o que quer que o padrão cubra, de pessoas a veículos.
Seu projeto, que ele chama de noRecognition, permite que as pessoas escapem da detecção automática e da vigilância algorítmica usadas nos EUA e no exterior.
Nos últimos anos, as câmeras de vigilância foram aprimoradas com a capacidade de detectar o que está acontecendo nas imagens gravadas, desde o rastreamento de placas de veículos em alta velocidade até o uso de reconhecimento facial para identificar suspeitos de crimes, embora com sucesso misto e às vezes com resultados aterrorizantes. Os algoritmos de detecção que alimentam a maioria das câmeras de vigilância hoje em dia podem examinar vastas quantidades de filmagens, permitindo que a polícia selecione a atividade de interesse, semelhante a encontrar uma agulha em um palheiro.
Os padrões gerados por computador de Swearingen não impedem que as câmeras de vigilância gravem imagens de vídeo. Em vez disso, eles embaralham a capacidade da câmera de identificar objetos, pessoas ou rostos, para que as câmeras não disparem nenhum alerta de detecção. Ao bloquear a capacidade da câmera de detectar o que o padrão cobre, a pessoa se torna uma agulha em um palheiro novamente — até que alguém saiba onde procurar.
“A privacidade é um direito fundamental”, disse Swearingen ao TechCrunch em uma ligação esta semana. Ele descreveu seus padrões como uma forma de permitir que as pessoas “optem por não ser rastreadas”.
Em seu primeiro teste público na sexta-feira na conferência de segurança cibernética Def Con em Las Vegas, Swearingen demonstrou com sucesso o padrão impresso em um veículo, provando que esses padrões podem ser eficazes para burlar a detecção de vigilância no mundo real.
Em uma ligação de sua casa em Kansas City, onde cofundou o encontro de segurança cibernética SecKC, Swearingen disse ao TechCrunch que, como profissional de segurança cibernética, ele está extremamente ciente dos riscos de privacidade e segurança da vigilância.
Ele descreveu como sua cidade está inundada de câmeras de vigilância, às vezes localizadas a poucos metros umas das outras. Ele disse que ele e outros nunca escolheram ser vigiados, assim como ele nunca escolheu que o governo usasse sua foto da carteira de motorista para reconhecimento facial.
Swearingen descreveu-se como um homem branco de meia-idade que mora no centro dos Estados Unidos e reconheceu que, como resultado, não enfrentou dificuldades ou discriminação por ser quem é ou por sua aparência. Swearingen lembrou como no ano passado ele queria participar de um protesto, mas se sentiu desconfortável e preocupado com o fato de que o vasto número de câmeras pudesse rastrear pessoas que estavam exercendo seus direitos constitucionais à liberdade de expressão.
Se ele se sentia assim, sem dúvida outros também se sentiriam, incluindo aqueles que queriam exercer seus direitos, mas talvez não se sintam seguros ou confortáveis para fazê-lo sozinhos. Swearingen pôs-se a trabalhar.
Enquanto houver câmeras capazes de detectar coisas, tem havido esforços para combater a tecnologia. Vários projetos de arte e marcas de roupas introduziram vestuário que visa ajudar as pessoas a derrotar o reconhecimento facial. Alguns fabricantes de óculos estão aderindo à tendência, embora sem muita eficácia.
Swearingen disse que sua pesquisa se baseia em alguns desses trabalhos anteriores, que mostraram ser possível bloquear detecções de câmeras.
Ele começou no ano passado com um laboratório de testes de prova de conceito que começou derrotando incrementalmente um algoritmo de detecção de câmera de vídeo de código aberto após o outro. Ao longo do ano, ele refinou os padrões escalando seus testes com poder de processamento de computador adicional. Ele agradeceu à comunidade mais ampla que apareceu com hardware para ajudar a impulsionar o projeto adiante.
Sua prova de conceito evoluiu ao longo do tempo para um modelo de aprendizado por reforço, essencialmente um sistema autocontido que podia treinar a si mesmo sobre quais padrões funcionam e quais não funcionam contra os algoritmos de câmera específicos que ele está testando. Em termos simples, Swearingen disse ao TechCrunch que ele essencialmente ensinou ao seu modelo “como pintar”.
Cada vez que um padrão falhava e um algoritmo o detectava, o modelo tentava novamente, repetidas vezes, até que eventualmente derrotava vários algoritmos de uma só vez.
Seu modelo logo começou a encontrar receitas perfeitas para padrões que eram capazes de derrotar todos os 11 algoritmos de detecção de código aberto que ele testou, incluindo o software que alimenta leitores de placas Flock, câmeras corporais Axon e câmeras executando Clearview AI.
Agora o modelo cria novos padrões a cada minuto, cada lote matematicamente melhor que o anterior, disse ele.
Na sexta-feira, na conferência de segurança cibernética Def Con em Las Vegas, Swearingen realizou seu primeiro teste no mundo real. Com a ajuda do Donut Media, o teste envolveu cobrir um Toyota Yaris 2009 com um dos padrões mais recentes de Swearingen para ver se o carro ficaria invisível à detecção por uma câmera Flock.
“Provamos que era eficaz;” disse Swearingen; no entanto, as rodas foram um desafio, disse ele. O vídeo da demonstração será lançado nas próximas semanas, disse o Donut Media.
Com uma demonstração pública em Las Vegas em seu currículo, o projeto é uma prova inicial de que é possível evitar a detecção algorítmica em espaços públicos. O próximo passo é colocar os padrões nas mãos das pessoas que os desejam, disse ele.
O projeto noRecognition também tem uma campanha de financiamento coletivo para ajudar a financiar a venda de mercadorias iniciais com os padrões, desde camisetas até moletons, com o potencial de películas impressas com padrões para veículos no futuro. Swearingen disse que o objetivo é que os padrões sejam de alta qualidade e resolução boa o suficiente para funcionar à distância, parecendo também esteticamente modernos.
Ele disse que está mantendo seus padrões mais fortes fora da internet para evitar que os fabricantes de câmeras os derrotem, mas que o trabalho ainda não está concluído. Seus modelos continuam a produzir novos padrões.
“Cada falha melhora meu modelo, e então [os padrões] continuam ficando cada vez melhores”, disse ele.
