Os novos recursos de IA do Apple Watch estão normalizando a ideia de que a tecnologia está sempre ouvindo

A Apple está tentando fazer com que os consumidores aceitem, e até vejam com bons olhos, uma nova realidade: sua tecnologia está sempre ouvindo.

No evento do iPhone de quarta-feira, “Surprise and Shine”, onde a empresa apresentou sua nova linha de hardware, a verdadeira surpresa acabou não sendo o iPhone dobrável, mas sim como a gigante da tecnologia, famosa por zelar pela privacidade, decidiu que seus relógios agora poderão processar áudio ao vivo e transcrever o que foi dito.

Isso significa que você está sempre sendo gravado se a pessoa com quem você está interagindo estiver usando um Apple Watch? Nem exatamente — embora isso possa deixar algumas pessoas desconfortáveis de qualquer maneira.

Isso também levanta a questão de saber se os consumidores realmente querem essa tecnologia, ou se a Apple avançou nessa área porque temia que outra empresa, como a OpenAI, logo lançasse um dispositivo de IA concorrente próprio.

Hoje, várias startups estão agindo sob a crença de que a transcrição potencializada por IA é um caso de uso principal da IA para o consumidor. Até agora, isso envolve mais frequentemente a transcrição de anotações de reuniões ou a gravação de palestras e entrevistas. Algumas empresas, como o pingente de IA Friend e o Bee da Amazon, também se aventuraram em outras áreas, com companheiros de IA sempre disponíveis que podem ajudar você a se lembrar do seu dia tirando notas passivamente.

A Apple decidiu seguir um caminho ligeiramente diferente. Com os novos recursos de “inteligência de áudio”, “Live Rewind” e “Siri Recap” de seus relógios, a empresa está dividida entre acessibilidade e utilidade de um lado, e o que começa a parecer uma tecnologia invasiva do outro.

Por si só, a Inteligência de Áudio parece ser um recurso útil para surdos ou com deficiência auditiva, pois pode alertar os proprietários do Apple Watch sobre sons como sirenes, alarmes, campainhas, bebês chorando e muito mais, usando IA no próprio dispositivo. Isso pode funcionar mesmo quando o iPhone do usuário não está com ele e, em alguns casos, pode fornecer assistência vital, como quando um alarme de incêndio ou detector de monóxido de carbono disparar. É improvável que alguém se oponha a esse tipo de IA de áudio.

No entanto, o Live Rewind e o Siri Recap saem do espaço de tecnologia assistiva e entram em uma área mais nebulosa.

Embora as proteções de dados da Apple possam tornar esses recursos mais aceitáveis para alguns, ainda existe a possibilidade de que normalizar a tecnologia de escuta possa não ser a melhor decisão para uma empresa consciente da privacidade. Isso é especialmente verdade diante da reação negativa mais ampla dos consumidores contra a tecnologia de vigilância como as câmeras Flock, centros de dados de IA e aplicativos de IA em geral.

Para começar, o recurso de IA Live Rewind permite que você volte no tempo 15 segundos e transcreva o que acabou de ser dito pressionando duas vezes a coroa digital do relógio. Essa transcrição pode ser salva no novo aplicativo autônomo Siri da Apple para que você possa revisitar a informação mais tarde.

A Apple sugere que isso possa ser usado para lembrar coisas como uma “recomendação de livro, a ideia brilhante de um colega ou algo que você não ouviu na primeira vez”, mas também significa que você pode essencialmente pegar qualquer pessoa dizendo algo que ela não pretendia necessariamente ter gravado e fazer uma anotação disso.

Isso tem implicações em torno do consentimento, não apenas do ponto de vista ético, mas também do legal. A fabricante de dispositivos de IA Plaud, por exemplo, aconselha os clientes a obterem o consentimento legalmente exigido antes de gravar. Os termos de serviço do Bee da Amazon lembram os usuários de que eles são os únicos responsáveis por cumprir a lei em torno da privacidade de dados de menores, e não a Amazon.

Como a Apple não está salvando áudio, não está claro como o sistema judicial pode lidar com essas novas transcrições exclusivamente em texto. É possível que as notas possam ser introduzidas como evidência no tribunal, mas a falta de áudio pode torná-las mais difíceis de autenticar ou verificar. Além disso, as regras probatórias sobre seu uso provavelmente também variarão de acordo com o estado.

Além das questões legais, a ideia de que alguém pode gravar a partir do seu relógio a qualquer momento tem implicações culturais.

Dispositivos de gravação já impactaram a forma como as pessoas se comportam na vida real, estudos mostraram, assim como as redes sociais e a cultura de vigilância de dados. Saber que você pode ser gravado a qualquer momento tem um efeito inibidor sobre como você interage com os outros e se envolve na autoexpressão.

No entanto, gravar uma foto ou vídeo ainda exige uma ação bastante óbvia por parte de quem grava: você precisa segurar seu telefone e apontá-lo para a ação. Capturar um pouco de áudio para transformar em transcrição apenas pressionando a coroa digital do relógio é, sem dúvida, um gesto muito mais sutil, embora venha com um sinal sonoro e animação em tela cheia de um microfone, como diz a Apple.

Outro novo recurso do Apple Watch, o “Siri Recap”, usa escuta ambiente para “fazer anotações de alto nível” de suas conversas, que podem ser revisadas no aplicativo Siri para iOS. Essas notas gerarão automaticamente um título, resumo e pontos-chave com base no que foi gravado e resumido por IA. Elas não serão transcrições exatas.

A Apple sugere que isso pode fazer sentido para gravar conclusões de reuniões ou informações importantes de uma reunião de pais e mestres, por exemplo.

A empresa também tentou assegurar aos usuários que abordou esses recursos de escuta com respeito à privacidade do usuário.

A Apple observa que o Siri Recap não vem ativado por padrão o tempo todo, como alguns outros dispositivos vestíveis de IA. Em vez disso, você pode escolher quando ele está ativado, como apenas no trabalho ou apenas durante o dia. Além disso, você pode desativar e ativar o recurso a qualquer momento na Central de Controle.

Notavelmente, a Apple aponta que não cria ou armazena gravações de áudio e que o áudio bruto não é acessível, nem mesmo para a Apple. Ela também não identifica ou atribui os falantes, e protege as transcrições e resumos gerados com criptografia de ponta a ponta.

Se isso é suficiente para que os consumidores não sintam que o recurso é invasivo é outra questão. Ou a Apple encontrou o equilíbrio certo entre utilidade e privacidade, ou está prestes a enfrentar alguma reação negativa dos consumidores.