A IA pode facilitar a vida dos CEOs de tecnologia. E quanto a todos os outros?

A CEO da Dazzle AI, Marissa Mayer, tornou-se recentemente a mais recente executiva de tecnologia a enfrentar críticas por comentários aparentemente desconectados da realidade que exaltam a utilidade da IA.

No caso de Mayer, isso envolveu pedir ajuda a uma ferramenta de IA para redigir uma descrição escolar de sua filha. Para o CEO da OpenAI, Sam Altman, isso incluiu sugerir que os pais criem podcasts personalizados para o trajeto dos filhos até a escola e também declarar que não consegue imaginar a paternidade sem o ChatGPT. O CEO da Meta, Mark Zuckerberg, chegou a sugerir que se tornará cada vez mais aceitável atender às suas necessidades sociais e românticas por meio de IA.

Tudo isso levou Amanda Silberling, do TechCrunch, a se perguntar se os executivos de IA estão simplesmente desconectados demais para criar produtos para pessoas normais — uma questão crucial com a Anthropic se preparando para abrir o capital justamente quando Wall Street começa a perder o apetite por gastos pesados em IA.

No episódio mais recente do podcast Equity, Kirsten Korosec, Sean O’Kane e eu conversamos com a Amanda sobre o motivo pelo qual os líderes da indústria às vezes parecem tão desconectados da realidade. A Kirsten quis saber se isso é mais um problema de marketing ou de produto. 

A resposta da Amanda: "Um pouco dos dois." Ela também argumentou que a indústria de tecnologia está empurrando cada vez mais um futuro "onde a interação humana básica é cada vez mais otimizada a ponto de deixar de acontecer", acrescentando: "E me chame de antiquada, mas acho que os seres humanos conseguirem conversar uns com os outros é provavelmente um saldo positivo para a sociedade."

Continue lendo para conferir uma prévia da nossa conversa, editada por questões de duração e clareza.

Anthony Ha: Há um grande ceticismo na sociedade em relação à IA, essa sensação de que as pessoas que comandam essas empresas não têm nossos melhores interesses no coração, de que estão desconectadas da realidade. E, portanto, você pensaria: “Talvez seja melhor não fazer declarações assim”, porque, claro, as pessoas vão encará-las com muita desconfiança.

Acho que os [CEOs] estão tentando manter esse equilíbrio delicado. Por um lado, há um incentivo financeiro tremendo para que defendam que você deve usar essa tecnologia em todos os aspectos da sua vida. Mas, quando você faz essa defesa, na verdade [isso não pinta] um cenário muito atraente. Em alguns casos, chega a ser francamente distópico.

Kirsten Korosec: Anthony, se eles seguissem o seu conselho, nós não teríamos sobre o que conversar neste programa. 

Mas eu digo o seguinte: há toda essa ideia do ChatGPT e de outras ferramentas de IA facilitando sua vida quando se trata de relacionamentos pessoais. E, em muitos desses casos, isso parece apenas complicar excessivamente o que seria, tipo, observar o seu filho. Isso pode ser difícil para algumas pessoas, as pessoas que estão construindo esses produtos, e não se relaciona necessariamente com todo o resto do mundo. Pode parecer incrivelmente desconectado quando você vê essas citações.

Para mim, a questão sempre recai sobre — com quem eles estão falando? Há pessoas por aí que conseguem se identificar? Talvez haja.

Amanda Silberling: Outros casos de uso que vimos as pessoas mencionarem são, por exemplo, a CEO do Bumble, Whitney Wolf Heard, que fez comentários sobre: “Bem, e se tivéssemos concierges de IA, a sua IA namorasse a IA da outra pessoa? E aí, se as IAs tiverem um bom encontro juntas, elas apresentam as pessoas.”

Ou, no artigo do New York Times, a Marissa Mayer mencionou: “Bem, e se a minha IA pudesse se coordenar com a IA do meu marido” e coisas do tipo. E acho que dá a sensação de que as pessoas estão tentando superotimizar a ponto de simplesmente deixarem de ter conversas com as pessoas.

Eu já vi isso acontecer na minha geração, pois noto em mim mesma que, se vou pedir comida para viagem, parece estranho ligar para o lugar. Estou tão acostumada com o “Bem, obviamente você pode fazer isso online e não precisa falar com ninguém”. E sinto que vai haver cada vez mais dessas situações, em que a interação humana básica é otimizada a ponto de não acontecer mais. E me chame de antiquada, mas acho que os seres humanos conseguirem conversar uns com os outros é provavelmente um saldo positivo para a sociedade. 

Sean O’Kane: Sim, mas qual é o ROI, Amanda? Quanto de receita você consegue gerar com uma conversa que alguém está tendo no mundo real?

Amanda: Essa é a questão, porém. Namorar é muito ineficiente. É chato ter que ir a vários encontros com pessoas diferentes. Você pode desperdiçar uma noite e pensar: “Bom, aquilo foi um fracasso.” E dá para entender por que as pessoas estão [se perguntando:] “E se você não precisasse ir a encontros? E se a sua IA pudesse ir a encontros por você?” Mas há algo simplesmente não humano nisso.

E além disso, você está terceirizando a decisão de quem você vai namorar para um computador em que você confia que te conhece melhor do que você mesmo, o que eu acho que não é verdade.

Kirsten: Uma coisa que acho que vale a pena retomar, e eu meio que dei a entender isso antes: com quem eles estão falando? Quem é o público deles para todas essas otimizações, na sua opinião? É um problema de produto ou é um problema de mensagem? Eles estão apenas falando sobre isso do jeito errado e, na verdade, há um valor realmente grande aqui e isso apenas parece desconectado da realidade e da humanidade, mas se eles falassem sobre isso de um jeito diferente, seria melhor? Ou é de fato um problema de produto e, como você bem disse, estamos focando em otimizar as coisas erradas com as ferramentas de IA?

Amanda: Acho que é um pouco dos dois, mas acho que o problema de marketing surge quando você tem essas pessoas de cargos altos nessas empresas imensamente valiosas reunidas em uma sala, falando sobre os pontos problemáticos em suas vidas, e [elas focam em] fazer reservas em restaurantes, reservar voos. Todo mundo faz essas coisas, mas eu não estou reservando voos uma vez por semana. Não estou fazendo reservas em restaurantes o tempo todo. E quando faço, essas não são realmente coisas que considero um desafio particular na minha vida.

Quer dizer, obviamente as pessoas encontram valor em coisas como o ChatGPT e o Claude, mas acho que o valor que a pessoa média está encontrando não é necessariamente algo como reservar um voo para mim.

Anthony:  Uma das coisas em que também tenho pensado é que existem empresas como o Uber que, quando foi lançado, tinha como alvo aquele grupo de early adopters de tecnologia em São Francisco, e me lembro de estar muito confiante [de que] isso nunca pegaria em maior escala. Isso é apenas para um público muito restrito de jovens millennials urbanos que têm dinheiro sobrando para carros, e funciona [de forma única] bem em São Francisco. 

Para muitas coisas, a indústria de tecnologia obteve sucesso apostando que: “As pessoas ainda não nos alcançaram, mas nós somos a vanguarda e refletimos como é o consumidor do futuro, como é a família do futuro.”

E, neste caso, parece apenas que essa aposta ainda não se concretizou — por vários motivos, em parte porque a sociedade na qual essa tecnologia está sendo promovida é muito diferente. As pessoas estão começando a dizer: “Eu não curto a influência que essa tecnologia está tendo na minha vida. Eu não curto que vocês estejam vendendo isso como algo em que todas as experiências da minha vida devem ser otimizadas e eliminadas. Mas, na verdade, eu quero viver a minha própria vida. Na verdade, eu quero criar meus próprios filhos.”

Amanda: Acho que não é coincidência que, ao mesmo tempo em que vemos essa superotimização acontecendo entre as pessoas da tecnologia, também exista um movimento de pessoas que estão voltando a querer usar celulares básicos, o que eu já comentei no Equity antes, ou pessoas que estão comprando CDs porque estão cansadas de um algoritmo dizendo o que elas devem ouvir.

E é apenas uma tensão cultural interessante que está acontecendo, onde ainda não encontramos o equilíbrio entre qual otimização realmente nos ajuda e qual otimização apenas nos faz sentir que não somos tão humanos quanto gostaríamos de ser.