Executivo da Microsoft chamou a extração de dados por IA de 'o maior roubo de trabalho da história humana', revelam novos documentos sem censura

Novas informações sem censura em processo de direitos autorais que o The New York Times moveu contra a OpenAI e a Microsoft há três anos revelam a admissão de que a raspagem de dados por IA equivalia a roubo, e que os produtos de IA representam uma grande ameaça às publicações.

De acordo com o processo, um alto executivo da Microsoft descreveu em caráter privado as práticas de treinamento de IA das empresas como "roubo", e a própria liderança da OpenAI afirmou que seus modelos de IA representavam uma "ameaça existencial" aos editores e jornalistas cujos trabalhos serviram para treiná-los. 

O material revelado também detalha como as empresas supostamente obtiveram e usaram esse conteúdo ao contornar paywalls sem serem detectadas, construindo conjuntos de dados de treinamento por meio de raspagem em massa e removendo deliberadamente os avisos de direitos autorais dos dados de treinamento. 

Vale notar que boa parte das novas informações vem da própria petição do The Times, e não dos anexos subjacentes, que continuam sob sigilo. As citações abaixo são apresentadas sem o contexto original.

A petição sem censura é a escalada mais recente no processo de três anos, no qual o The New York Times alegou inicialmente que as empresas violaram a lei de direitos autorais ao treinar modelos de IA generativa com seu conteúdo. 

A questão sobre se as empresas de IA podem usar legalmente material protegido por direitos autorais para treinar IA não tem uma resposta clara, mas os juízes têm sido amplamente favoráveis aos argumentos das empresas de IA de que o treinamento constitui "uso legítimo" (fair use). Essa regra jurídica permite que as pessoas usem obras protegidas por direitos autorais sem permissão em determinados casos, como paródia, reportagem jornalística ou crítica. No início deste mês, o governo Trump apresentou um memorial em defesa do uso não licenciado de material protegido por direitos autorais pela OpenAI para treinar seus LLMs. 

No entanto, várias das novas admissões vão na contramão da defesa de uso legítimo da OpenAI, particularmente o requisito da regra de que o uso não substitua nem prejudique o mercado para a obra original.

Por exemplo, dados da própria Microsoft mostram que seu "mecanismo de respostas" Copilot fez com que as taxas de cliques para o domínio do The New York Times caíssem até 93% em comparação com a busca tradicional do Bing. Uma apresentação interna da Microsoft redigida pelo diretor de Ciência Aplicada da Microsoft, Brent Hecht, em janeiro de 2024, descreve a queda como um "loop da perdição" que "prejudicaria o desempenho dos nossos modelos e de toda a web ao mesmo tempo".

“É altamente incomum que um produto final ameace as bases econômicas de seus fornecedores essenciais, mas essa é a situação que criamos para o nosso negócio de LLM em relação à sua 'cadeia de suprimentos de conteúdo'", diz o documento da Microsoft, conforme citado no processo. 

O CEO da Microsoft, Satya Nadella, também testemunhou em um depoimento no início deste ano que “qualquer coisa que esteja atrás de um paywall deveria ser licenciada por quem quiser usá-la... para contextualização ou treinamento”, e deixou claro que, se ele “tivesse tomado conhecimento de que a OpenAI havia raspado e treinado com informações que estavam atrás de um paywall”, ele teria “invocado [o direito da Microsoft de] exigir que a OpenAI retreinasse seus modelos”. 

Outras admissões contrariam diferentes pilares do teste de uso legítimo: o chefe do ChatGPT na OpenAI, Nick Turley, escreveu em uma comunicação interna que os editores enfrentam uma "ameaça existencial" de produtos como o chatbot, que são "em grande parte substitutos" e "se tornarão cada vez mais substitutos à medida que melhorarem".

O presidente da OpenAI, Greg Brockman, descreveu os modelos como "excelentes em notícias". Nadella concordou sob juramento no início deste ano que conversar com chatbots “tem substituído... dar a informação bem ali no site na plataforma de IA em vez de precisar ir à fonte original”.

Esse tipo de linguagem demonstra como a tecnologia pode competir diretamente com a obra original, em vez de transformá-la. 

Um documento da Microsoft afirma que há um “risco real” de que a IA generativa possa “perturbar significativamente o emprego das mesmas pessoas que geraram os dados nos quais o modelo base foi treinado”. 

A enorme escala da cópia impressiona. Os documentos revelam pela primeira vez que apenas os conjuntos de dados de treinamento intermediário da OpenAI contêm mais de 91.692 cópias de trabalhos publicados pelo NYT, Daily News e Center for Investigative Reporting. Um conjunto de dados derivado do Common Crawl incluía mais de 2 milhões de documentos apenas de nytimes.com. 

Em um memorando interno de janeiro de 2023, Hecht chamou isso de “um roubo espantoso de proporções sem precedentes” e “o maior roubo de trabalho da história humana”.

A petição expõe com novos detalhes como a OpenAI e a Microsoft procederam para adquirir o conteúdo dos autores da ação, incluindo a raspagem a partir do Índice do Bing. 

“A OpenAI entregou todo o conjunto de dados de treinamento do GPT-3 à Microsoft, que a Microsoft usou para avaliar como implementar os modelos da OpenAI em seus próprios produtos comerciais”, diz o documento. “A Microsoft também forneceu dados de treinamento para a OpenAI por meio de iniciativas chamadas Project Taxi e Project Mango.”

As empresas supostamente reuniram os dados do Project Mango em um conjunto de dados de treinamento que contém cópias de pelo menos 160.903 obras exclusivas dos veículos de imprensa. 

Para aproveitar ao máximo sua raspagem, funcionários da OpenAI supostamente elaboraram um plano para burlar paywalls sem serem detectados. Os autos mostram que quando o pesquisador da OpenAI Nick Ryder contou a Brockman sobre um “truque para contornar o paywall do nytimes”, Brockman respondeu: “ah, legal”. 

Funcionários da OpenAI também teriam criado conjuntos de dados de treinamento como WebText e WebText2 que dependiam desproporcionalmente de conteúdo de notícias raspado. Eles também teriam extraído milhões de artigos do Common Crawl, um repositório aberto e gratuito de dados de rastreamento da web. As conclusões também descrevem esforços deliberados para remover avisos de direitos autorais dos dados de treinamento antes que chegassem ao modelo, já que os pesquisadores “não iriam querer que o modelo gerasse” “avisos de direitos autorais” para os usuários.

OpenAI e Microsoft não responderam aos pedidos de comentários.