Mark Zuckerberg’s AI manifesto is exactly why people don’t like AI
Na segunda-feira, Mark Zuckerberg publicou um manifesto de 6.500 palavras sobre IA pessoal, falando em grande parte sobre as possibilidades dos sistemas de “superinteligência pessoal” que a Meta AI está construindo. As ideias da postagem não são totalmente novas. Uma versão do ensaio foi veiculada no Wall Street Journal há duas semanas, e ele já havia falado sobre elas em teleconferências de resultados da Meta antes. Mas esta é provavelmente a versão mais detalhada que ele compartilhou.
Eu o vi sendo descrito como um ensaio anti-apocalíptico, mas isso não é bem verdade. É mais uma descrição de por que Mark Zuckerberg está pessoalmente animado com as maneiras pelas quais a IA vai mudar a sociedade. No entanto, mesmo enquanto Zuckerberg tenta pintar um retrato do futuro maravilhoso que a superinteligência abundante trará, ele continua nos lembrando de todas as maneiras pelas quais isso provavelmente dará errado.
Eu também acho a IA empolgante — é por isso que continuo escrevendo sobre ela —, mas grande parte do público vê a IA como algo assustador e desagradável. Portanto, vale a pena definir exatamente o que está acontecendo aqui e por que Zuckerberg não está fazendo nenhum favor à indústria com ensaios como este.
As redes sociais ainda são um tópico sensível na indústria de tecnologia, e não temos espaço aqui para julgar os méritos relativos de cada reclamação que as pessoas têm sobre o Facebook. Basta dizer que o Facebook como produto e Zuckerberg como pessoa são impopulares perante o público dos EUA. Uma pesquisa recente descobriu que 64% dos americanos acreditam que as mídias sociais têm sido prejudiciais à democracia e uma porcentagem semelhante acredita que elas deveriam ser mais rigidamente regulamentadas, números que se dividem igualmente entre as linhas partidárias. Bem neste fim de semana, um tribunal multou a empresa em US$ 567 milhões por ser prejudicial às crianças. O clima está péssimo.
Não menciono isso para sugerir que Zuckerberg deva se retirar para a selva envergonhado — mas as consequências das mídias sociais são um dos principais motivos pelos quais estamos vendo tanta ansiedade sobre o impacto social da IA agora. Seja justo ou não, o público não confia nos executivos de tecnologia para garantir que novas tecnologias como esta tenham um impacto positivo na sociedade. Em vez de reconhecer isso e tentar reconquistar a confiança do público, este ensaio demonstra repetidamente como essa confiança foi perdida em primeiro lugar.
Uma grande parte do ensaio é dedicada a generalidades vagas sobre inteligência — muito semelhantes às generalidades vagas que Zuckerberg e Dorsey costumavam dar sobre a liberdade de expressão. Aqui está um exemplo:
À medida que todos ganham ferramentas mais poderosas, cada pessoa se tornará mais capaz de moldar o futuro, e não menos. … Pessoas e instituições com interesses conflitantes naturalmente se controlam e se equilibram para levar a resultados positivos. O melhor e mais realista caminho para construir um futuro positivo de IA é fornecer superintelligence a todos.
Imagino que sim? Posso pensar em alguns exemplos de interesses conflitantes que levam a maus resultados, mas vamos deixar isso de lado. O mais estranho é que isso está sendo apresentado como uma conclusão filosófica sincera, em vez de um produto específico chamado “inteligência pessoal” que a Meta está trazendo para o mercado. Se você já tem a inclinação de desconfiar dessa pessoa, pode se preocupar com o fato de ela estar escrevendo tudo isso para se convencer de que nada de ruim pode acontecer.
Essa sensação ficou mais intensa para mim quando Zuckerberg chegou aos exemplos específicos, muitos dos quais estão alarmantemente desconectados da realidade de como as ferramentas de IA estão sendo usadas. Por exemplo, esta é a visão de Zuckerberg sobre a IA na educação:
Todos terão um tutor e treinador personalizado com doutorado em todas as matérias e paciência ilimitada para ajudar você a aprender qualquer coisa que desejar. Os estudantes terão ajuda extra em áreas que precisam e que atualmente só está disponível para aqueles cujos pais podem pagar. Os adultos terão um assistente de aprendizado superinteligente que sabe exatamente como ensinar novas habilidades profissionais, novos idiomas, novos hobbies ou qualquer outra coisa do seu interesse.
É claro que o produto que Zuckerberg está descrevendo já existe: trata-se de um chatbot voltado ao consumidor como ChatGPT, Claude e Gemini. Essas ferramentas realmente são úteis se você quiser aprender sobre um determinado tópico, mas a principal forma como são usadas na educação é para evitar aprender, já que seu tutor personalizado pode fazer sua lição de casa e escrever sua redação atribuída — e, como não há um sistema de marca d'água robusto em vigor, não há como os professores terem certeza de quais redações foram geradas com IA.
Este é um exemplo de dano potencial da IA de baixo risco, mas é algo real que está acontecendo agora mesmo. Às vezes, você projeta uma tecnologia para fazer o bem e ela tem consequências indesejadas que pioram as coisas. E o fato de uma das pessoas mais poderosas do mundo se recusar a reconhecer isso pode deixar as pessoas compreensivelmente nervosas!
Zuckerberg também dá um exemplo de como a IA mudará o sistema jurídico para melhor:
Como um experimento mental, imagine que apenas uma pessoa tivesse um advogado superinteligente. Ela teria uma vantagem injusta no tribunal — mesmo que estivesse errada quanto ao mérito. Isso levaria a uma sociedade pior. Mas agora imagine que todos tenham um advogado superinteligente. Nesse caso, a justiça seria realizada de forma muito mais justa e eficiente do que hoje, quando frequentemente há um desequilíbrio de habilidades e recursos em litígios.
Mais uma vez, esse é um exemplo tendencioso. Com certeza, o acesso à IA jurídica pode levar a uma sociedade mais justa, mas também pode adicionar mais complexidade ao inferno burocrático que já existe. Ou pode desencadear uma nova onda de litigantes vexatórios que apenas congestionam as engrenagens com o equivalente jurídico de spam. É difícil se sentir calmo com tudo isso, e o fato de Zuckerberg não estar preocupado me deixa mais preocupado.
Em outros lugares, até mesmo as descrições das práticas comerciais existentes da Meta começam a assumir um caráter estranhamente abstrato. Por exemplo, é assim que Zuckerberg descreve o compromisso da Meta com um modelo freemium:
Todos terão acesso gratuito ou acessível a essas ferramentas. … Ofereceremos versões gratuitas que serão acessíveis a bilhões de pessoas. Para aqueles que quiserem pagar para usar mais capacidade de processamento, haverá um mecanismo de leilão dinâmico que garantirá que todos obtenham o menor preço possível pela inteligência e processamento que estão usando, ao mesmo tempo em que garante que a capacidade seja usada para o que as pessoas considerarem coletivamente mais valioso. Isso garantirá que os benefícios da superinteligência sejam amplamente distribuídos.
Em linhas gerais, concordo com tudo o que ele está dizendo aqui. Zuckerberg está certo ao dizer que o acesso é um problema, e ele está certo ao dizer que um modelo freemium permite mais acesso do que exigir que todos paguem pelo processamento adiantado. Mercados dinâmicos para capacidade de processamento pontual já existem, então não é como se ele estivesse imaginando algo totalmente fora do padrão. Mas há uma razão pela qual todos os produtos de IA de consumo isolam os usuários finais do preço spot do processamento que estão usando. Preços dinâmicos (surge pricing) são uma péssima experiência para o usuário, particularmente quando aplicados a uma ferramenta da qual você realmente depende para o seu trabalho.
Novamente, tenho que assumir que Zuckerberg sabe disso e que ele não está realmente planejando definir os preços dos tokens por meio de leilões dinâmicos. Mas agora tenho menos certeza disso do que antes de ler este artigo.
Há maneiras melhores de falar sobre essas coisas. Apesar de todas as suas falhas, Sam Altman e Dario Amodei fazem um trabalho muito bom quando se comunicam diretamente com o público. Eles fazem exatamente o que Zuckerberg resiste aqui: reconhecer os perigos da IA, enfatizar suas próprias precauções e tentar convencer os ouvintes de que são confiáveis.
Essa comunicação só pode ir até certo ponto. Às vezes (especialmente recentemente), as salvaguardas falham e o perigo inerente de todo o empreendimento fica evidente. Mas, sem algum tipo de construção de confiança, a indústria pode nem sempre conseguir sobreviver a essas falhas.
