A OpenAI busca superar a Anthropic com novas proteções de privacidade para clientes

À medida que os modelos de IA se tornaram mais potentes, o potencial de uso indevido desses modelos cresceu — assim como a demanda por barreiras de segurança que possam impedir que tais abusos aconteçam. As empresas de IA agora precisam caminhar em uma corda bamba delicada entre respeitar a privacidade de seus clientes empresariais e, ao mesmo tempo, monitorar o uso em busca de possíveis problemas.

Percebendo a oportunidade de superar sua rival Anthropic, a OpenAI acaba de anunciar uma abordagem de segurança centrada na privacidade para monitorar o uso indevido. A empresa está oferecendo uma prévia de um novo serviço para clientes selecionados chamado Private Safety Processing (Processamento de Segurança Privada). Trata-se de um sistema automatizado que monitora potenciais abusos e, ao mesmo tempo, não retém nenhum dado do cliente.

Este sistema entra claramente em conflito com a política de retenção de dados anunciada recentemente pela Anthropic. A política, que irritou alguns clientes, permite que o laboratório de IA retenha os dados dos usuários (todas as suas sessões e as conversas nelas contidas) por um período de 30 dias, quando se trata de "modelos cobertos". Esses modelos incluem todos os modelos da classe Mythos e "futuros modelos com capacidades semelhantes", diz a empresa.

Esta política, anunciada em julho, foi projetada para fins de segurança, permitindo que o laboratório examine e analise possíveis irregularidades. No entanto, ela tem gerado profunda preocupação em algumas empresas que lidam com grandes quantidades de dados sensíveis e não querem que eles sejam armazenados (ou inspecionados) pelo laboratório de IA.

A OpenAI — assim como a maioria das outras empresas de IA — já concede aos clientes um nível relativo de privacidade ao aderir a uma política conhecida como Zero Data Retention (Retenção Zero de Dados). A ZDR usa agentes dentro da API da OpenAI para monitorar abusos por sessão. Desta forma, os dados dos clientes não são retidos pela empresa, mas as empresas ainda conseguem escanear em busca de atividades maliciosas sem a necessidade de intervenção humana. Vale ressaltar que a Anthropic também cumpre amplamente a ZDR — exceto quando se trata de "modelos cobertos", como o Fable.

A OpenAI afirma que o Private Safety Processing é uma nova tecnologia que amplia o escopo da ZDR. Ela o descreve como uma forma de monitoramento de segurança de longo prazo que avalia as entradas e saídas de múltiplas conversas — e não apenas de uma. Novamente, o monitoramento é conduzido por um agente que, se acionado, captura interações e as analisa ao longo das sessões em busca de sinais de uso indevido potencial.

A nova tecnologia ajuda a OpenAI a detectar o uso malicioso de IA que ocorre em múltiplas sessões, disse um porta-voz ao TechCrunch. Um agente mal-intencionado — hipoteticamente alguém tentando projetar malware para um ciberataque — pode espalhar suas solicitações para evitar a detecção. O Private Safety Processing pode analisar essas múltiplas conversas em busca de sinais de abuso sem a revisão humana das conversas do usuário.

No caso em que o sistema é acionado, ele pode enviar um "sinal estritamente definido" para a OpenAI que alerta sobre um tipo específico de atividade, diz a empresa. Com base nesse sinal, a OpenAI pode decidir se "a aplicação de penalidades é necessária", afirma. Se for o caso, a OpenAI entrará em contato com o cliente para obter mais contexto ou para trabalhar com ele na questão, e o cliente pode optar por compartilhar dados com a OpenAI a seu critério, disse o porta-voz.

Em contrapartida, a Anthropic observa que a revisão humana dos dados dos clientes pode ocorrer, mas apenas "por meio de um caminho de acesso controlado" que envolve "um pequeno grupo de revisores aprovados". Cada uma dessas sessões de revisão é "registrada em um log à prova de violações que os revisores não podem suprimir ou modificar", diz a empresa.

A competição corporativa entre a OpenAI e a Anthropic está tensa no momento, com ambas as empresas buscando qualquer oportunidade para obter vantagem sobre a outra. Um relatório recente mostrou que o segundo trimestre da OpenAI cresceu mais devagar que o da Anthropic. A taxa de receita anualizada da Anthropic está agora em US$ 65 bilhões, segundo relatos. Investidores da Anthropic afirmaram que ela poderia abrir capital (IPO) avaliada em US$ 2 trilhões, enquanto a OpenAI também está trabalhando em seu IPO.