Anthropic shares more details about how Claude’s new watermarks will work
A Anthropic publicou uma postagem em seu blog na sexta-feira buscando responder a algumas perguntas básicas sobre como ela colocará marcas d'água no texto gerado por seu chatbot Claude. Tais como: Como a marca d'água realmente funcionará? Ela pode ser ocultada com edições? E como isso afeta o código?
Os usuários do Claude vêm discutindo a decisão desde que a empresa revelou no início desta semana que faria essa marca d'água para cumprir o Código de Transparência da Lei de Inteligência Artificial da UE, que exige que as empresas de IA usem sistemas que tornem possível identificar conteúdo gerado por IA.
No Reddit, por exemplo, um usuário caracterizou isso como uma conspiração contra usuários inocentes do Claude, enquanto outro afirmou: “O único motivo para você não querer isso é para mentir para as pessoas.” E o Business Insider relata que “dezenas” de usuários no X afirmaram ter cancelado suas assinaturas do Claude como resultado.
A nova postagem da Anthropic começa com uma visão geral do conceito de marca d'água, explicando que ao fazer “escolhas de baixo risco” — como escolher entre as palavras “nublado” e “cinzento” para descrever o clima — o Claude pode criar um padrão em suas respostas que é “indetectável para o leitor, mas é detectável para qualquer pessoa que tenha uma chave que o decodifique”.
“A marca d'água não afeta a qualidade da saída do Claude”, afirmou a empresa. “Para um leitor, uma resposta com marca d'água é indistinguível de uma sem marca d'água.”
Mais especificamente, a Anthropic disse que usará a abordagem SynthID-Text que a equipe do Google DeepMind descreveu em 2024, e que planeja lançar uma API de detecção de marca d'água. Ela também observou que a marca d'água é distinta das abordagens de detecção de IA oferecidas por empresas como a Pangram, que procuram “indícios” na escrita (como a construção “isso não é [X], é [Y]”) para revelar o uso de IA: “Detectar esses padrões é fundamentalmente diferente de verificar se há uma marca d'água.”
Alguém poderia simplesmente reescrever o texto para ocultar a marca d'água? A Anthropic disse que é possível, mas “uma edição leve provavelmente não removerá a marca d'água completamente”, enquanto “uma reescrita completa onde cada palavra é substituída irá”.
“No último caso, é claro, é discutível se o texto ainda pode ser descrito como gerado por IA”, disse a empresa.
Quanto a saber se a marca d'água será detectável em textos que foram apenas revisados ou editados pelo Claude, a Anthropic afirmou que isso dependerá “do comprimento do texto e de quanto o Claude o editou”. Se tiver sido apenas levemente editado, “quase todas as palavras” terão sido escritas pelo autor humano e “há muito pouco (ou nada) para a marca d'água se fixar”.
O código, por sua vez, deve ter menos marca d'água do que outros textos, porque o modelo precisará criar código funcional e não terá a liberdade de escolher entre várias opções igualmente válidas.
“Dito isso, em áreas onde há uma escolha arbitrária entre palavras ou termos específicos dentro do código, a marca d'água pode ser usada, como em comentários dentro do código”, disse a Anthropic. “Mas, por definição, ela terá um efeito insignificante no código real produzido.”
A Anthropic também afirmou que o Claude não será o único chatbot de IA a gerar texto com marca d'água, já que “outros grandes desenvolvedores de modelos assinaram o mesmo Código de Prática e implementarão suas próprias marcas d'água”.
