Reddit is using LLMs to solve a problem LLMs largely created
Está mais fácil do que nunca para pessoas mal-intencionadas espalharem spam pela internet, à medida que os poderosos modelos de linguagem de grande escala (LLMs) se tornam facilmente acessíveis. Se você passou cerca de dez minutos na internet nos últimos anos, sabe que isso significa que o spam e o conteúdo gerado por bots se tornaram um problema ainda maior do que já eram.
O Reddit afirma ter desenvolvido ferramentas com LLMs para reduzir o spam, grande parte do qual foi criado justamente com esses modelos. É um pouco irônico, mas, na era da IA, as plataformas não têm escolha a não ser combater fogo com fogo. De acordo com a plataforma, o Reddit bloqueia 23 milhões de visualizações de spam por dia e detecta cerca de 25 mil novas postagens e comentários de spam diariamente.
As plataformas sociais vêm desenvolvendo ferramentas automatizadas de redução de spam há anos, mas o Reddit afirma que essas ferramentas atualizadas estão detectando spam com maior eficiência.
“Utilizamos os LLMs para detectar os padrões altamente sutis e coordenados de comportamento falso e hype artificial que os sistemas mais antigos antes deixavam passar”, afirma uma postagem no blog do Reddit. A empresa afirma ter reduzido a exposição dos usuários ao spam em 20% de janeiro a março, em comparação com os três meses anteriores.
Plataformas como YouTube, Meta e Instagram permitem que os usuários publiquem conteúdo gerado por IA, desde que o divulguem, e o TikTok chega ao ponto de permitir que os usuários escolham a quantidade de conteúdo gerado por IA que desejam ver.
Se as plataformas forem capazes de detectar conteúdo gerado por IA mais rapidamente, isso também significa que elas têm o potencial de sinalizar conteúdos que violam as regras, como discurso de ódio, com maior rapidez. Mas especialistas em plataformas têm nos lembrado continuamente que a moderação de conteúdo por IA deve ser combinada com a moderação humana para se obter os resultados mais eficazes.
