Amazon, which started off selling books, is destroying rare texts to train AI
A Amazon está comprando toneladas de livros raros, cortando suas lombadas e digitalizando-os para o treinamento de IA, de acordo com o 404 Media, que colocou um dispositivo de rastreamento em um livro raro que acabou chegando a uma instalação da Amazon em Las Vegas.
A instalação, conhecida como VGT3, se identifica com o símbolo de um dinossauro segurando um livro nas garras. A Amazon disse ao 404 Media em um comunicado que “compra livros por meio de canais comerciais para melhorar os produtos e serviços que os clientes utilizam.”
Empresas como a Amazon precisam de quantidades imensas de texto para treinar seus LLMs, que já ingeriram o que podiam da internet (e, no caso da Anthropic, piratearam ilegalmente livros). Livros raros, especialmente aqueles que estão fora de catálogo ou são impossíveis de encontrar na internet, oferecem uma nova fonte de dados de treinamento cobiçados.
Esses textos são especialmente valiosos, pois não há chance de que qualquer coisa publicada antes de 2022 tenha sido escrita por um LLM. Quando os LLMs são treinado com texto gerado por IA, eles correm o risco de sofrer colapso de modelo, o que pode ocorrer quando a qualidade das saídas de um LLM se degrada após a ingestão de muito texto gerado por IA.
