O poderoso assistente de IA da Instinct está gerando preocupações de privacidade e segurança

Todo mundo está falando sobre o Instinct, um assistente pessoal de IA que ainda está em acesso privado, não apenas por suas capacidades incríveis, mas também por suas potenciais preocupações com a privacidade. O agente, um verdadeiro capataz, tem sido elogiado por parecer “uma magia” e ser um dos “lançamentos mais empolgantes” desde o OpenClaw. No entanto, alguns testadores também levantaram preocupações sobre o modelo de segurança do agente de IA e seus termos de serviço preocupantes.

Para ser justo, o Instinct ainda está em testes privados por enquanto, então essas preocupações ainda não se estenderam ao público em geral neste momento.

Criado por uma pequena equipe liderada pelo ex-pesquisador da Sierra Noah Shinn, o Instinct, com sede em São Francisco, é operado pela Spear Street Technology, de acordo com seus termos e registros comerciais da Califórnia arquivados. Ele opera atualmente em modo furtivo (stealth), de acordo com o PitchBook.

O agente de IA em si funciona conectando-se aos seus aplicativos e dispositivos, incluindo seu e-mail, aplicativos de mensagens, calendário e o áudio, localização, tela do seu dispositivo e muito mais. Você pode enviar mensagens de texto para o agente ou ligar para ele via mensagem de texto ou WhatsApp, pedindo que ele realize várias tarefas para você, como agendar seus compromissos e reservas, agendar uma viagem para o aeroporto, limpar sua caixa de entrada, organizar informações importantes, cuidar de suas compras, encontrar voos baratos para você e muito mais.

Embora o Instinct seja descrito pelos testadores como superando suas expectativas, alguns também levantaram preocupações sobre a abordagem da empresa em relação à privacidade e segurança do cliente. Isso levanta uma questão oportuna: as concessões de dar à IA esse nível de acesso e autonomia realmente valem a pena?

Por exemplo, várias pessoas estão circulando capturas de tela dos Termos de Serviço da empresa, que concedem ao Instinct uma licença ampla “perpétua e irrevogável” para “acessar, usar, hospedar, fazer cache, armazenar, reproduzir, transmitir, exibir, publicar, distribuir e modificar” qualquer um dos materiais do usuário, inclusive para treinar seus modelos de IA. Os termos também detalham como o Instinct pode receber informações dos dispositivos dos usuários, incluindo capturas de tela, movimentos do cursor e entradas de teclado.

Os termos também permitem que o Instinct celebre “acordos, compromissos ou transações” em nome dos usuários, o que seria vinculativo.

Um dos primeiros adeptos, Peter Yang, destacou que o Instinct não apagava seus registros do Gmail quando solicitado. (A equipe mais tarde corrigiu o problema adicionando uma ferramenta para excluir dados externos em suas configurações, disse ele.)

Outra pessoa, Claire Vo, descobriu que o Instinct ainda estava resumindo sua caixa de entrada após ter seu acesso desconectado. Quando ela perguntou ao Instinct o que havia acontecido, o bot confirmou que os e-mails foram armazenados em texto simples para pesquisas posteriores.

Muitos outros também questionaram o modelo de segurança. Um testador ficou um pouco preocupado ao descobrir que o Instinct conseguiu extrair um código de cadastro de sua caixa de entrada de e-mail para concluir uma tarefa específica — no caso deles, reservar uma mesa em um restaurante via Resy. E o cofundador da Hello Patient, Alex Cohen, escreveu que, uma vez que descobriu quão facilmente o Instinct poderia ser alvo de phishing, ele excluiu sua conta:

Além disso, a fundadora da Moxxie Ventures, Katie Jacobs Stanton, compartilhou que o Instinct quebrou sua confiança quando enviou um e-mail em seu nome sem consultá-la primeiro.

“Estamos trocando privacidade e controle por ferramentas de IA hiperpersonalizadas (anotadores de IA, agentes de IA personalizados, etc.), muitas vezes sem entender totalmente essa troca”, comentou ela no X, resumindo o dilema apresentado pelos agentes de IA pessoais. “Quanto mais poderosos esses agentes se tornam, mais a confiança importa. Cada ação bem-sucedida conquista um pouco mais de confiança. Uma ação não autorizada pode zerar essa confiança”, afirmou.

Michael Mignano, fundador do Anchor (adquirido pelo Spotify) e atualmente sócio-gerente da Union Square Ventures, observou que produtos como o Instinct vão “mudar as normas modernas de segurança para os consumidores”, acrescentando que “as pessoas entregarão cada vez mais senhas a aplicativos de terceiros (3p), sem saber como ou o que eles estão armazenando para elas”.

O interesse pelo Instinct e pela IA pessoal tem crescido desde a chegada do OpenClaw, um assistente de IA pessoal que se tornou popular por suas capacidades poderosas, levando seu fundador a se juntar à OpenAI para ajudar a trabalhar na próxima geração de agentes pessoais. Outro assistente baseado em mensagens, o Poke, também acabou de ser adquirido pela Cognition.

Em meio às críticas, a equipe do Instinct ainda não respondeu às preocupações ou reclamações de ninguém no X, preferindo manter um perfil discreto. (O próprio bot identifica Luca Borletti, também ex-integrante da Sierra, como envolvido com a empresa, mas isso não foi confirmado.) O TechCrunch soube por vários investidores que a Kleiner Perkins e a Conviction investiram na startup e que essas rodadas já foram concluídas.

Os pedidos de comentários enviados tanto para o endereço de e-mail principal da startup quanto diretamente para Shinn ainda não foram respondidos.