O problema da mesmice por trás daqueles cardápios sem graça gerados por IA

Quando isso acontece com você pela primeira vez, você acha que está ficando louco. Você entra em um café e olha para um cardápio com uma variedade de sanduíches de bagel, mas cada ilustração parece estranhamente perfeita, com precisão simétrica e uma lisura esquisita, provocando a sensação visceral de que há algo errado. Você pode pensar que está paranoico, mas não está perdendo a cabeça. Cardápios gerados por IA chegaram ao setor de restaurantes graças a modelos treinados com uma estética restrita e "agradável", que parece errada mesmo quando você não consegue articular o motivo.

Às vezes, essas ilustrações são flagrantemente falsas, como um burrito com queijo tão borbulhante e derretido que se parece mais com arte de vanguarda do que com o almoço. Com mais frequência, elas têm uma aparência tão comum que você só percebe que há algo errado quando para um segundo para olhar mais de perto.

“É quase como um alienígena tentando fazer uma pizza sem entender seus princípios fundamentais”, disse à TechCrunch o diretor de tecnologia (CTO) da Reality Defender, Alex Lisle. (A própria Reality Defender faz parte de uma categoria em crescimento de startups que vendem ferramentas de detecção de IA e verificação de conteúdo — um negócio que existe em parte devido a problemas como este).

Lisle afirma que a maneira como esses modelos são construídos pode ajudar a explicar por que as ilustrações parecem adotar uma estética tão específica — uma em que cada bola de sorvete é perfeitamente redonda e onde os camarões parecem ter sido geneticamente modificados para comerem suas próprias caudas, criando novos “horrores culinários lovecraftianos”.

Modelos de linguagem grande (LLMs) e modelos de difusão — os tipos de modelos de IA que tornam possíveis chatbots aparentemente oniscientes e geradores de imagem como ChatGPT e Midjourney — são treinados em vastas quantidades de dados. Os modelos então identificam padrões nos conjuntos de dados para prever o que um usuário está procurando quando faz um pedido como: “Faça-me um cardápio para uma hamburgueria”.

“Muitas dessas coisas parecem um cardápio do Chili's de 2015, e há um motivo para isso”, disse Lisle. “Esse foi o corpus de trabalho a partir do qual [os modelos] retiraram sua função.”

Novos dados de treinamento são inestimáveis para as empresas que constroem modelos de IA — descobriu-se até que a Amazon busca livros raros para escanear e adicionar aos seus dados de treinamento, apenas para destruir esses livros depois de carregados. É inevitável que algum conteúdo gerado por IA acabe se infiltrando nesses conjuntos de dados incompreensivelmente grandes. Mas quando os modelos de IA são treinados em excesso com seu próprio conteúdo gerado por IA, eles correm o risco de sofrer colapso de modelo.

“O colapso de modelo é quase como a doença da vaca louca... quando você alimenta um modelo com as saídas dele mesmo, eventualmente a endogamia se torna excessiva e tudo desaba”, explicou Lisle. “O que vemos aqui é convergência, o que não é necessariamente um colapso de modelo.”

A convergência é um pouco menos extrema, degradando a qualidade das saídas de uma IA sem torná-la totalmente inútil.

Se alguém pede a um modelo de IA para gerar um cardápio para uma lanchonete de fast-food, o modelo provavelmente fará referência aos cardápios do Wendy's, Burger King, McDonald's ou de outra rede popular. Esses cardápios já compartilham um estilo semelhante, o que significa que as saídas geradas pela IA imitarão esse mesmo estilo, apenas para reforçá-lo ainda mais caso o cardápio gerado por IA acabe voltando para os dados de treinamento.

Mas cardápios e anúncios de alimentos sempre parecerão melhores do que a realidade, como um Big Mac em um comercial do McDonald's onde cada camada do sanduíche é arranjada por um produtor de cenografia para parecer o mais apetitosa possível. Esse efeito pode se tornar ainda mais pronunciado nas saídas de IA.

“A otimização dos conjuntos de dados visa à agradabilidade ou, você sabe, a não ser ofensiva, e é assim que isso se transforma em homogeneização”, disse à TechCrunch Lee Rainie, diretor do Centro Imagining the Digital Future da Universidade Elon. “O que a IA é conhecida por fazer, tanto em imagens quanto em linguagem, é aparar as arestas.”

Em uma escala mais localizada, esse alisamento das imagens parece acontecer quando você usa um gerador de imagens de IA para criar um cardápio e aplica edições nele. No X, um usuário chamado Labtec demonstrou o que acontece quando você cria um cardápio no ChatGPT e o edita 100 vezes para ver como a comida continua parecendo cada vez menos com o que deveria. (Nós replicamos o experimento e encontramos resultados semelhantes).

“O resultado final realmente me deixa desconfortável”, escreveu Labtec.

Os restaurantes provavelmente estão sendo vítimas desse problema, revisando seus cardápios gerados por IA para alterar pequenos detalhes repetidamente, como preços ou nomes de itens. Parece que, a cada edição, as imagens dos alimentos ficam um pouquinho mais redondas e lisas.

“As pessoas têm uma sensação quase inexplicável quando estão olhando para algo gerado por IA, em comparação com algo que era real em primeiro lugar”, disse Rainie. “Existe apenas uma sensibilidade que às vezes as pessoas acham difícil de articular, mas elas simplesmente sabem o que é quando veem, e acho que essa é uma das razões pelas quais algumas das primeiras histórias sobre a reação negativa [contra restaurantes que usam cardápios de IA] são tão pronunciadas.”

Há ciência por trás de nossa aversão a esses cardápios de IA. Pesquisadores da Universidade de Duisburg-Essen, na Alemanha, descobriram que imagens de alimentos geradas por IA exibiam um efeito de "vale da estranheza", onde imagens de comida que pareciam quase reais provocavam mais repulsa e desconforto do que imagens que eram obviamente falsas. Essa ojeriza só se intensifica à luz do contexto cultural em torno da IA.

Se as pessoas reagem a essas imagens de forma tão negativa, isso provavelmente já é motivo suficiente para os restaurantes pararem de tentar fazer os cardápios de IA funcionarem. Mas os problemas que nos trazem pães de hambúrguer perfeitamente dourados vão muito além da mesa de jantar.

“Ver e ouvir sempre foi sinônimo de crer, a ponto de até mesmo nossos sistemas judiciais estarem totalmente sintonizados com a ideia de que o padrão ouro em evidência são confissões gravadas e provas em vídeo”, disse Lisle. “Esse não é mais o caso. O mundo mudou fundamentalmente, para o bem ou para o mal.”