Historian Jill Lepore says Silicon Valley misreads science fiction and undermines democracy
Em seu próximo livro “The Rise and Fall of the Artificial State” (“A Ascensão e Queda do Estado Artificial”, em tradução livre), Jill Lepore alerta que as empresas de tecnologia estão substituindo cada vez mais as funções do governo democrático. Essa mudança, segundo ela, marca “um retorno à tirania e à mistificação na forma de governo por algoritmos, corporações, máquinas”.
No episódio mais recente do podcast Equity do TechCrunch, conversei com Lepore — historiadora de Harvard e colaboradora da New Yorker que recentemente venceu um Prêmio Pulitzer por sua história da Constituição dos EUA — sobre o desenvolvimento daquilo que ela descreveu como “a ideia de que devemos viver sob um estado artificial ou um governo por máquinas”.
“Não sou anti-tecnologia”, insistiu Lepore. Em vez disso, ela afirmou: “Minha birra é com a forma como as corporações privadas vêm assumindo cada vez mais as funções do Estado”.
Embora o livro de Lepore examine filosofias tecnocráticas que remontam a séculos atrás, ela argumentou que muitos dos líderes do Vale do Silício, “sejam carismáticos ou não tanto” — especialmente Elon Musk —, parecem estar inaugurando um futuro tirado de obras de ficção científica barata e revistas em quadrinhos mal compreendidas.
“Mas o engraçado sobre o Musk é que as coisas de que ele gosta na verdade derrotam e desafiam completamente todas as suas crenças políticas”, disse ela.
Nossa conversa também abordou o famoso anúncio do Macintosh “1984” da Apple, o motivo pelo qual é um “absurdo” chamar o Twitter de praça pública digital, e a recente reação contrária aos centros de dados. Continue lendo para conferir os principais trechos, editados para maior clareza e concisão.
Então você provavelmente já teve que responder a isso muitas vezes, mas pode explicar o que quer dizer com o “estado artificial”?
Por estado artificial, quero dizer um tipo de estado que está substituindo o Estado-nação liberal democrático nos Estados Unidos e ao redor do mundo. É tanto algo real, uma construção, quanto uma ideia.
E assim, neste livro “The Rise and Fall of the Artificial State”, eu traço a ascensão da ideia de que devemos viver sob um estado artificial ou um governo por máquinas. Também rastreio a noção de que isso é um fracasso inevitável, de que o estado artificial não pode sobreviver, e acompanho essa ideia através da ficção científica.
Em um ponto, você diz que a ascensão do estado artificial marca o fim de séculos de democracia e direitos iguais, e que é “um retorno à tirania e à mistificação na forma de governo por algoritmos, corporações, máquinas”. Pode falar um pouco mais sobre por que você enxerga isso em termos tão drásticos?
Sim, eu realmente tenho uma visão bastante negativa disso, e acho importante distinguir o estado artificial da tecnologia em si ou dos modos de tecnologia. Não sou anti-tecnologia. Sou casada com um cientista da computação. Estou muito entusiasmada com todos os tipos de revoluções intelectuais pelas quais estamos passando agora.
Esse não é o meu problema, sabe? Meu problema é a maneira como as corporações privadas vêm assumindo gradualmente as funções do Estado. Ninguém consentiu com isso. Tem sido um tipo de transformação gradual e, em grande parte, acidental de como muitos Estados-nação ao redor do mundo funcionam — e isso aconteceu primeiro nos Estados Unidos.
Acho que muitas vezes essas inovações ao trazer novas tecnologias para as operações do governo foram extremamente bem-intencionadas; elas se originam com o interesse em eficiência, velocidade e baixo custo. E então, acho que apenas nos últimos 20, 25 anos é que essas decisões se tornaram propositadas e deliberadas como uma espécie de usurpação do papel do Estado-nação.
E isso não é especulação minha. A gente ouve muitos empreendedores de tecnologia de grande destaque falarem sobre o desejo de ir além da era do Estado-nação. […] Muitos futuristas nos anos 90 eram libertários, e eles tinham um interesse específico em usar o avanço da internet e as inovações sucessivas que se seguiram como um meio de erradicar o Estado-nação.
Você fala, por um lado, sobre as tecnologias em si e, por outro, sobre as filosofias por trás delas, o papel que a corporação tem desempenhado cada vez mais. Estou curioso para saber até que ponto podemos separá-las. Nós realmente conseguimos ter uma versão da internet e das redes sociais que não leve necessariamente a esse futuro para o qual parece que estamos [atualmente] correndo em disparada?
Com certeza. Sou historiadora. Não sou escritora de tecnologia. Não sou jornalista de tecnologia. Não sou cientista da computação. Sou historiadora, e sou principalmente uma historiadora política, embora também seja uma historiadora literária. E assim, uma das coisas que realmente me interessa desvendar para os leitores neste livro são todos os "e se", todas as alternativas, os caminhos ao longo da estrada que não foram tomados e o porquê.
Houve, é claro, uma discussão muito ávida na década de 1990 sobre como a internet deveria se parecer quando fosse aberta, e com o que acabamos ficando, a Lei de Telecomunicações de 1996 — acho que muitas pessoas diriam [que] isso foi apenas um erro, não um ato com intenção sinistra, certo?
Mas foi o produto de um momento político específico, foi profundamente influenciado por Newt Gingrich e seu "Contrato com a América", e tem sido muito difícil revisitá-lo. Acho que vale a pena pensar em quais eram as alternativas que estavam em jogo na época.
E você pode dizer a mesma coisa sobre o computador pessoal. Portanto, na medida em que conseguimos localizar um ponto de origem para a promessa de que uma melhor tecnologia de computadores criaria democracias melhores, acho que o momento para o qual você olharia primeiro seria janeiro de 1984, aquele comercial do Super Bowl que a Apple veiculou para o lançamento do Macintosh, com o [tema] meio George Orwell, 1984. A Apple apostava muito na ideia de que os computadores de grande porte (mainframes) representavam o totalitarismo. Eles estavam tentando desmantelar as gigantescas e cinzentas máquinas da IBM, retratando-as naquele anúncio como um estado totalitário. E o ágil, belo, rápido, adorável Macintosh pessoal seria o machado que destruiria aquela máquina e inauguraria uma nova era em que “1984 não seria ‘1984’”.
Isso foi publicidade inteligente. Duvido que alguém na Apple realmente acreditasse que o computador pessoal seria um instrumento de libertação pessoal. Quero dizer, ele tornaria possíveis muitas coisas legais. Lembro-me de quando ganhei meu primeiro Macintosh — certamente não era 1984, mas era muito legal, era muito divertido, era muito emocionante, fiz muitas coisas nele. Nunca me ocorreria que ele estava melhorando minha capacidade de cidadania ou minha habilidade de funcionar melhor na sociedade civil. Era uma ferramenta legal.
Mas se você rebobinar a fita no tempo, até 2026 — as paradas ao longo do caminho incluem a eleição de 2016, quando o Facebook News, em resposta aos seus críticos, estabelece uma Suprema Corte. Chegamos ao ano passado, quando a Anthropic contratou um filósofo moral para escrever uma constituição. Chegamos ao período recente, quando Sam Altman esteve no programa de Joe Rogan e disse [em resposta a uma pergunta de Rogan]: “Ah, um presidente de IA seria uma ótima ideia”.
De certa forma, são exemplos bobos. Mas você vê a maneira como essas corporações, essas empresas de tecnologia do Vale do Silício, e especialmente seus líderes carismáticos ou não tão carismáticos, estão simplesmente assumindo as aparências do Estado-nação e as funções da democracia.
Eles não são pessoas com uma filosofia política sofisticada, mas é como uma versão em desenho animado daquele anúncio do Macintosh de 1984, exceto que se leva a sério demais. E essas empresas têm tanto poder.
Mas dito isso, o livro não começa em 1984. Apenas acho que esse é um bom exemplo da nossa era moderna e da forma como uma campanha publicitária divertida se transforma em uma espécie de fantasia delirante por parte de pessoas como Sam Altman.
Você [também] fala sobre a promessa da chamada “revolução do Twitter”, e essa ideia de que ela traria a democracia para todos os lugares. Não posso deixar de notar como isso influencia a maneira como eu [reajo] quando Sam Altman ou algum outro CEO de IA diz agora que a IA vai trazer todos esses presentes incríveis — e, portanto, se você ficar no caminho, estará ficando no caminho do progresso, no caminho da história.
Até que ponto devemos simplesmente descartar todas essas afirmações de cara, ou há maneiras de que isso possa se tornar realidade?
Quer dizer, o Twitter é realmente um bom exemplo, certo? Quando foi lançado, quando Jack Dorsey o iniciou, ele não se autoproclamou como: “Vamos salvar a humanidade, vamos resgatar a civilização humana da extinção”. Era meio que uma brincadeira, e acho que as pessoas que usavam o Twitter bem no comecinho pensavam: “Sabe de uma coisa? Na verdade, é muito legal”. Era tipo: “Fiz um sanduíche de atum hoje. O que você almoçou?”. O Twitter como empresa não se lançou em um palco dizendo: “Estamos aqui para salvar a democracia”.
E o que realmente aconteceu foi que os políticos, os eleitos, começaram a usar o Twitter de maneiras que ampliavam seu poder político, de maneiras que potencializavam suas mensagens, de maneiras que lhes permitiam alcançar um público mais jovem, de maneiras que lhes permitiam manter uma conexão constante com o público. Os políticos e as campanhas políticas meio que convenceram o Twitter — pelo menos na medida em que eu consigo ver, não tenho uma conta interna na empresa —, mas de forma meio relutante, o Twitter acabou aceitando a ideia de que: “O Twitter cresceu tanto e as pessoas postam tanto sobre política que é quase como se o Twitter fosse uma praça pública”.
Quando você chega, acho que em 2012 — muitos anos na história bastante curta do Twitter —, eles publicam essa coisa chamada "Twitter Politics and Elections Handbook" (Manual de Política e Eleições do Twitter), que é basicamente um guia para candidatos políticos e funcionários eleitos sobre como usar o Twitter da forma mais eficaz. E então eles começam a promover a ideia de: “É uma praça pública no seu bolso, e está melhorando nossas democracias porque estamos resgatando a extinta assembleia municipal (town meeting) da Nova Inglaterra”, e tudo isso é um absurdo completo.
Objetivamente, nada poderia estar mais longe da verdade. Naquela época, um em cada cinco americanos tinha uma conta no Twitter. A maioria das pessoas que tinha contas no Twitter nunca as havia usado, e mais de 90% de todos os tuítes sobre política eram postados por menos de 10% das pessoas que realmente usavam o Twitter o tempo todo. O Twitter de forma alguma era uma representação do eleitorado. O Twitter era uma representação dos americanos mais extremos, politicamente ativos e hiperpartidários, que acompanhavam a política com muita avidez. Olhando para isso agora, podemos ver: “Bem, isso é realmente apenas uma máquina de distorção. E se os políticos estão usando isso para avaliar o eleitorado, eles estão recebendo informações muito ruins”.
Novamente, você pode dizer que o Twitter não estava tentando participar do estado artificial ou enfraquecer a democracia. O Twitter está tentando fazer negócios, conseguir mais usuários e vender o que quer que seja. Mas teve essas consequências indesejadas com as quais acabou se acomodando e se sentindo confortável.
Quero falar um pouco mais sobre a estrutura do livro. Como você disse, ele começa com essa história da tecnologia, história das ideias, e a segunda metade é sobre ficção científica. Pode falar mais sobre como essa estrutura surgiu para você e por que você quis abordar as coisas dessa maneira?
Comecei a me interessar muito, por um lado, por com que frequência as histórias de ficção científica prevêem a chegada do que acabei chamando de estado artificial, e por isso eu realmente queria identificar uma tradição literária que considero a parábola do estado artificial, na qual as máquinas ficam cada vez mais sofisticadas, assumem mais e mais funções dos humanos, incluindo as funções de governo, e eventualmente passam a governar os humanos, e então talvez destruam todos os humanos porque não precisam mais deles.
Talvez elas apenas os escravizem, depende um pouco. Estamos em “O Exterminador do Futuro” ou em “Battlestar Galactica”? Há diferentes versões, e essas histórias vêm de muito longe. Elas remontam à década de 1850 e às primeiras décadas de reflexão sobre as consequências do industrialismo.
Acho que muitas pessoas — isso é certamente verdade para os meus alunos, meus universitários — realmente acreditam que mudança tecnológica é igual a progresso. E não apenas isso, mas que o único tipo de progresso é a mudança tecnológica. Isso é uma novidade na história humana. É uma invenção intelectual do século XIX, e deve-se em parte ao fato de que a mudança tecnológica estava acelerando justamente na época em que Charles Darwin estava concebendo e publicando sua teoria da evolução.
Portanto, há uma espécie de casamento estranho entre evolução como progresso e mudança tecnológica como progresso, e o que fica de fora disso são todas as outras noções anteriores de progresso, que envolvem principalmente o progresso moral — tipo, as coisas estão melhorando porque as pessoas estão se tornando melhores, ou as coisas estão melhorando porque as pessoas estão mais livres.
Há muitas outras maneiras pelas quais poderíamos pensar sobre o progresso, mas o que domina hoje é essa noção do século XIX de progresso tecnológico como o único tipo de progresso e, portanto, toda mudança tecnológica é progresso, em oposição a — objetivamente, só é progresso se as coisas estiverem melhorando.
Mas, de qualquer forma, essa confluência no século XIX da ideia de progresso tecnológico e da ideia de evolução significou que as pessoas que estavam pensando com clareza pensavam: “Bem, se as máquinas continuarem melhorando, ficando mais rápidas e capazes de fazer mais coisas — não apenas trabalho físico, mas talvez falar, pensar ou se locomover —, e se elas evolutivamente se tornarem melhores em tudo do que nós? Não apenas melhores em operar um tear, não apenas mais rápidas para se mover através do tempo e do espaço como um vagão de trem?”. E com isso cresceu uma ansiedade incrível que encontrou forma na ficção científica repetidas vezes, vezes, vezes, vezes e vezes.
Minha história favorita dessas foi publicada, acho, em 1909 por E. M. Forster, bem na época em que ele estava escrevendo “Uma Janela para o Amor” (A Room with a View). Ele escreveu esta história chamada “O Ônibus Espacial” (The Machine Stops) [Nota: título traduzido no Brasil como "A Parada da Máquina"], que poderia ter o subtítulo de “O Quarto Sem Vista”. Ele imagina um futuro próximo em que todo mundo simplesmente vive nesses quartos, nessas pequenas celas. Você nunca vê outras pessoas porque tudo o que você precisa vai direto para o seu quarto. É como o iFood (DoorDash), sua comida é entregue, você tem uma tela onde pode se comunicar com outras pessoas. Todas as suas necessidades são atendidas.
A coisa que as pessoas mais temem é o mundo natural. Ninguém quer ver o sol nunca, é um pouco com a vibe de “Matrix”, e todos adoram a máquina que organiza suas vidas e traz para eles em seus quartos parecidos com cabines todas as coisas de que precisam. A história é sobre: “Os humanos tornaram-se essencialmente escravos da máquina, que é mais forte, mais poderosa e tem mais capacidade do que os humanos, e os humanos perderam a capacidade que tinham”. E então o clímax da história é quando a máquina para.
Se os leitores fossem dar uma olhada nessa história, pareceria que ela poderia ter sido escrita hoje, exceto pelo fato de que hoje ela se parece menos com ficção científica e mais com o diário de um YouTuber muito infeliz.
Você conecta essa linha a algumas das pessoas que administram empresas e, indiscutivelmente, aspectos do nosso governo hoje, como Elon Musk. Essencialmente, você sugere que . Eles leem muitas histórias de advertência, ou pelo menos histórias ambivalentes, como se fossem manuais para o futuro.
Isso é algo com que eu luto como leitor de ficção científica — alguém que ama Isaac Asimov, por exemplo. Acho que é verdade que quando Musk ou Altman estão simplesmente sendo inequivocamente do tipo “Sim, esta história é um modelo para o que eu deveria fazer com minha empresa”, isso é loucura. Mas [também] existe essa vertente tecnocrática libertária na ficção científica que eles estão absorvendo. Não é algo que eles estão inventando do nada, certo?
Embora, curiosamente, isso seja Heinlein. Não é Asimov, não é Douglas Adams.
Com certeza, existe essa vertente na ficção científica. Eu não sei, acho que o Bezos é um grande fã de Robert Heinlein. Dá para dizer: “Ok, isso se alinha bem. Eles estão lendo isso literalmente, mas pelo menos estão captando a mensagem política que qualquer pessoa racional poderia encontrar dentro dessa obra literária”.
Mas o engraçado sobre o Musk é que as coisas de que ele gosta na verdade derrotam e desafiam completamente todas as suas crenças políticas.
Você também diz, repetidamente, que o estado artificial em sua forma atual está incompleto e condenado ao fracasso. Por que ele está condenado ao fracasso?
Isso é algo previsto em toda a ficção científica que discuto.
Não é uma história de Asimov, mas é uma das histórias [favoritas] de Asimov de sua infância [“The Man Who Awoke” (O Homem que Despertou), de Laurence Manning] sobre um futuro em que os silvicultores derrotaram os desperdiçadores. […] A guerra que os humanos do futuro travaram foi entre os desperdiçadores, que simplesmente achavam que você podia gastar tudo e desperdiçar, e os silvicultores, que realmente acreditavam em — o que chamaríamos de reflorestamento e recuperação ambiental (rewilding).
Essa é geralmente a tensão nessas histórias. É entre o estado artificial e o mundo natural. Para erguer um estado artificial e governar os humanos dentro dele, você deve aliená-los do mundo natural porque você o está destruindo. O estado artificial destruirá o mundo natural e, no entanto, ele precisa dos recursos do mundo natural para funcionar.
Portanto, ele está condenado no sentido de que não há possibilidade de que o mundo natural, um planeta habitável — habitável para os humanos —, possa sobreviver à construção completa e à dependência dos dispositivos do estado artificial. É assim que a ficção científica funciona, de qualquer forma.
Como você disse, você é historiadora, não política ou futurista. Mas como você acha que se parece a derrota do estado artificial? É basicamente apenas desmantelar todas essas empresas, derrubar os centros de dados? Ou há um futuro que tem mais a ver com trazê-lo sob controle?
Quero dizer, eu não tenho um manual pronto aqui, exceto pela recomendação de que vivamos em uma democracia onde as decisões tenham que ser tomadas em consulta com os governados, e essas decisões não são populares.
Você vê isso em todas as pequenas crises de centros de dados, de cidade em cidade, de condado em condado, de estado em estado — que são em parte uma consequência do declínio dos jornais locais e da destruição do jornalismo, que tem sido uma das muitas consequências das redes sociais e, no caso do Zuckerberg, acho que uma consequência um tanto intencional.
O que você vê é muita gente aparecendo nessas reuniões municipais e dizendo: “Nós nem temos moradia. Não temos saúde. Não temos empregos. Quem disse que estamos construindo este centro de dados? Preciso saber muito mais sobre isso. Preciso saber quais serão seus custos de energia. Fale-me sobre o consumo de água. Vai haver empregos? Os empregos vão durar muito tempo? Ou vão durar só por seis meses? O que vai acontecer com as garças que vivem nesta área?”. Seja lá o que for que as queiram saber.
Cada vez mais, você vê que as pessoas estão — como no exemplo de Salt Lake, onde bem mais de 70% das pessoas eram realmente contra esse centro de dados, e seus representantes o apoiaram. Isso não é representar o povo. Acho que há custos políticos, e começaremos a ver isso nas eleições.
Ou talvez não. Uma parte suficiente do funcionamento democrático precisa estar intacta para que as pessoas possam realmente responder à malversação por parte de seus representantes.
Parte do seu pensamento sobre [o estado artificial] começou com este ótimo artigo que você escreveu há mais de uma década para a The New Yorker, sobre Clayton Christensen, criticando sua ideia do dilema do inovador e da inovação disruptiva — que está muito intimamente associada ao TechCrunch, porque temos uma grande conferência chamada Disrupt.
Dez anos depois, como você se sente em relação a essa ideia de inovação disruptiva?
Mantenho tudo o que está naquele artigo. [Na época, Lepore escreveu: “A inovação disruptiva é uma teoria sobre o porquê de as empresas falharem. Não é mais do que isso. Não explica a mudança. Não é uma lei da natureza.” Christensen respondeu que Lepore quebrou “todas as regras da academia que ela a acusava de quebrar”.]
Eu o releu no verão passado, quando estava trabalhando neste livro. O que eu diria aqui é que, tentando ser um ser humano pacífico, acho que realmente é um problema o fato de os historiadores não terem se engajado com essas ideias. Uma das razões pelas quais escrevi aquele artigo sobre inovação disruptiva — que não era uma ideia minha, era uma pauta de encomenda […] — foi porque eu simplesmente achava: “A inovação disruptiva é uma teoria da história. É uma teoria da mudança histórica, e é baseada em evidências dos arquivos”. E eu simplesmente pensei, como historiadora, que não faz sentido algum. O uso de evidências dele é completamente inaceitável por qualquer compreensão adequada de método histórico. O argumento dele não dialoga com nenhuma compreensão significativa de como a mudança acontece.
Então fui refazer a pesquisa, e simplesmente não se sustentava de jeito nenhum. Senti que tinha que escrever. E eu gostaria de sentir que houve mais engajamento, nos anos desde então, de historiadores acadêmicos pensando sobre a natureza da mudança — que são perguntas que genuína e autenticamente interessam às pessoas que estão envolvidas no desenvolvimento de novas tecnologias.
As pessoas realmente querem pensar [sobre]: “O que é isso? O que estou fazendo? Quais serão as consequências? Há algo que eu possa aprender com a história? O que aconteceu quando o automóvel substituiu o cavalo? O que aconteceu com a lei? Como acabamos com carteiras de motorista? Como acabamos com as leis de trânsito? Não tínhamos regras de trânsito antes do automóvel. Não tínhamos certos tipos de sistemas de seguros. Não tínhamos testes de motorista. Como essas coisas surgiram? Como [desenvolvemos] essas barreiras de proteção em cima de uma tecnologia que era tremendamente empolgante, melhorou a vida das pessoas de muitas, muitas maneiras, mudou completamente a paisagem, revolucionou a lei de responsabilidade civil (tort law)? Talvez eu devesse pensar sobre isso”.
Eu só gostaria que os historiadores estivessem mais em conversa com os tecnólogos ao longo desses anos, e com os empreendedores. Não apenas porque podemos ficar por aí dizendo: “Sabe, eu tenho uma palestra para lhe oferecer sobre história”, mas acho que há uma conversa real a ser tida.
Tudo isso para dizer: obrigado por me convidar.
