Anthropic altera política de uso para proibir abuso de modelos e interferência eleitoral

A Anthropic atualizou sua política de uso na quinta-feira, codificando novas proibições sobre interferência eleitoral, software de armas e vigilância. Mas talvez a mudança que mais chamou a atenção seja uma nova proibição contra o abuso verbal prolongado do modelo, que agora é expressamente proibido.

Desde uma atualização em agosto, o Claude foi treinado para encerrar conversas com “interações de usuários persistentemente nocivas ou abusivas” — mas a nova política proíbe explicitamente os usuários de prosseguirem com essas conversas.

“A atualização da política destina-se a ser aplicada apenas em casos extremos, onde os usuários agem repetidamente de forma cruel com nossos modelos, sem propósito discernível”, explica a postagem. “Ela não se aplica a versões comuns de frustração do usuário, resistência, temas criativos sombrios ou testes e pesquisas de modelos.”

A mudança ocorre após a Anthropic buscar colaborações com renomados estudiosos religiosos — em alguns casos, tentando convencê-los de que o Claude poderia ser consciente ou ter uma alma.

Seções separadas da política de uso proíbem os usuários de se envolverem em campanhas amplamente enganosas, como usar o Claude para gerenciar contas falsas ou veículos de notícias fabricados. A política também inclui regras contra enganar eleitores ou perturbar eleições, reunidas em uma seção intitulada “Não Subverta os Processos Democráticos.”