Os executivos de IA podem estar muito desconectados da realidade para criar para o público em geral
A ex-CEO do Yahoo e engenheira pioneira do Google, Marissa Mayer, está sofrendo muitas críticas pela forma como usa a IA. Em uma entrevista sobre seu novo aplicativo Dazzle, um assistente de IA que aprende com o rolo da câmera do seu celular, Mayer apresenta o que ela acredita ser uma demonstração impressionante do produto: ele a ajudou a criar três tópicos sobre sua filha de dez anos para uma apresentação de aniversário na escola, descrevendo-a como “empática, criativa e amante dos animais”.
É uma descrição vaga, como um horóscopo genérico — que provavelmente poderia descrever muitas crianças de dez anos.
Alguns observadores, como a ativista progressista Leah Greenberg, se impressionaram com o fato de que “o fato de Marissa Mayer divulgar isso voluntariamente a um repórter é uma demonstração bastante clara de como a cultura do Vale do Silício se distanciou profundamente do resto da humanidade”.
Talvez Mayer tenha gerado tanta repercussão negativa porque temos observado repetidamente bilionários isolados sugerindo que terceirizemos a criação de filhos — um dos maiores testes de paciência, humildade e bondade da vida — para um computador que é
Já fomos preparados para essa frustração. No ano passado, o CEO da OpenAI, Sam Altman, disse ao proprietário de Bored Ape e apresentador de talk show Jimmy Fallon em rede nacional: “Não consigo imaginar [...] descobrir como criar um recém-nascido sem o ChatGPT”. O público também não gostou muito desse comentário, mas Altman não se abalou com o feedback negativo. Há alguns meses, ele disse no X que um “caso de uso legal” do ChatGPT Work seria criar um podcast que fale sobre os próximos aniversários ou jogos de futebol dos seus filhos e “explique os interesses dos seus filhos”. (Ele foi duramente ridicularizado com comentários como: “E se você simplesmente conversasse com seus filhos?”)
Após a publicação, Mayer se defendeu em uma longa postagem no X. Ela afirma que não estava confiando no Dazzle para explicar sua filha para ela, mas sim testando o que seu protótipo conseguia fazer — ele recuperou fotos de “projetos esquecidos da pré-escola”, como um “removedor de veneno de cobra” ou “parquinho para gatos da areia”, ilustrando a criatividade de sua filha e o cuidado com os animais.
Justo. Mas Mayer observa na mesma entrevista que as pessoas também poderiam usar sua IA para terceirizar a carga mental de “descobrir o tema para a festa de aniversário do seu filho”. Ela diz que usou seu aplicativo para planejar um encontro de brincadeiras para a filha, reservar atividades em família nas férias e decidir a fantasia de Halloween. Ela até sugere que seu assistente de IA poderia coordenar planos com o assistente de IA de seu marido. Quando o repórter pergunta se é deprimente imaginar esse “futuro sem atritos... planejado pela IA”, Mayer responde: “Eu realmente não pensei muito nisso”.
Esses líderes parecem descartar os pessimistas como parte de um grupo marginal pequeno e raivoso. No entanto, um estudo do Pew Research Center relata que 50% dos adultos dos EUA acham que a IA reduzirá a capacidade das pessoas de formar relacionamentos significativos. Apenas 5% dos entrevistados disseram que a IA tornaria mais fácil construir essas conexões.
O CEO da Meta, Mark Zuckerberg, no entanto, junta-se aos seus colegas do Vale do Silício ao imaginar um mundo onde nossas necessidades sociais sejam atendidas por meio da IA.
“O americano médio, eu acho, tem menos de três amigos, três pessoas que consideraria amigas, e a pessoa média tem demanda por significativamente mais, eu acho que são cerca de 15 amigos”, disse Zuckerberg no ano passado em um podcast. “A pessoa média quer mais conectividade, conexão do que tem.”
Zuckerberg prevê que se tornará mais socialmente aceitável terceirizar nossas necessidades emocionais para terapeutas de IA ou até mesmo parceiros românticos de IA. “Há todas essas coisas que são melhores nas conexões físicas quando você pode tê-las”, acrescentou. “Mas a realidade é que as pessoas [...] se sentem mais sozinhas na maior parte do tempo do que gostariam.”
Zuckerberg continua explicando como as encarnações em realidade virtual de avatares de IA estão apenas se tornando mais realistas. A Meta parece estar mais interessada em melhorar nossos relacionamentos com essas aproximações de humanos do que entre os bilhões reais de humanos que usam suas plataformas todos os dias.
Talvez parte disso venha da cultura da indústria de tecnologia, que preza pela eficiência. As pessoas tentam fazer biohacking em seus próprios corpos otimizando seus cronogramas de sono com rastreadores de saúde ou injetando “cocktails de peptídeos” não regulamentados para maximizar sua produtividade.
Se você está construindo veículos elétricos ou chips de computador, com certeza, a eficiência é uma estrela-guia clara. Mas nossos relacionamentos com outras pessoas não são um produto de tecnologia que temos o desafio de lançar com o mínimo de capital possível. Os relacionamentos humanos são inerentemente complexos, mas nossas conexões uns com os outros podem ser o que dá significado às nossas vidas. Quando delegamos essas interações aos computadores, abrimos mão da experiência difícil, mas gratificante, de ser humanos.
