A indústria de IA está realmente pronta para desacelerar?

Estamos vendo um grande debate sobre a segurança da IA e uma potencial desaceleração, já que o CEO da Anthropic, Dario Amodei, publicou recentemente um plano para “ritmar a fronteira”, enquanto o CEO da Nvidia, Jensen Huang, repercutiu publicamente as alegações do presidente Donald Trump de que a reação negativa à IA é uma farsa e que a regulamentação é desnecessária.

No episódio mais recente do podcast Equity do TechCrunch, Kirsten Korosec, Sean O’Kane e eu discutimos se executivos como Amodei e o CEO da OpenAI, Sam Altman, estão falando sério sobre querer desacelerar.

Embora eu tenha me surpreendido com a quantidade de líderes da indústria que pareceram apoiar o plano de Amodei, Sean observou que o plano parecia carecer de detalhes.

E quando Kirsten perguntou se uma combinação de regulamentação existente e o funcionamento do livre mercado poderia fornecer salvaguardas suficientes por si só, Sean respondeu: “Temos um governo federal no momento que certamente não parece ansioso para fazer cumprir regulamentações em termos gerais, muito menos falando especificamente aqui”.

Além disso, argumentou ele, “Não parece haver uma tonelada de escolha do consumidor impulsionando este mercado, no sentido de que, ok, se uma dessas empresas fizer algo muito ruim, elas verão um impacto em quantas cancelamentos existem ou o que seja”.

Continue lendo para conferir uma prévia da nossa conversa, editada por questões de duração e clareza.

Anthony Ha: Sean, o que você acha? Nós realmente vamos “ritmar a fronteira”?

Sean O’Kane: Por alguma razão, isso soa como algo tirado de “Caçadores de Emoção”. É apenas uma declaração muito californiana, do tipo: “Vamos ritmar a fronteira, mano”. 

Eu não sei. Eu disse neste programa na semana passada que não achava que estávamos caminhando para uma desaceleração de nenhum tipo, em grande parte porque não acho que essas empresas estejam estruturadas de uma forma em que isso funcione.

Portanto, foi uma mudança de opinião bastante imediata em relação ao que eu disse há uma semana, ouvir isso de Dario na Anthropic, de Sam na OpenAI e até mesmo de Elon Musk atécerto ponto — e podemos entrar no mérito de acreditarmos nisso ou não. Direi que não acho que estava completamente errado, porque mesmo com esses planos vagos que o Dario expôs em uma postagem de blog e que alguns dos outros líderes mencionaram, sinto que ainda faltam muitos detalhes aqui, não apenas sobre algumas das alegações do porquê essas pessoas acham que existem perigos e riscos, mas também detalhes sobre o que eles querem dizer ao desacelerar. 

Anthony, sei que você leu sobre isso bem de perto no último fim de semana quando tudo estava estourando, então estou curioso para saber se você talvez seja mais generoso do que eu, no que diz respeito a entender o que eles estão tentando dizer aqui.

Anthony: Quer dizer, eu também tenho perguntas. O que realmente me chamou a atenção foi o fato de que tantas pessoas na indústria pareciam convergir em torno disso com bastante rapidez. Mesmo antes de Amodei publicar sua postagem no blog, eu já via outras pessoas postando alguma versão deste [plano], justamente nos dias que antecederam o fato.

Pelo que entendi, essas sugestões que surgiram da comunidade de segurança de IA são coisas que vêm fermentando há algum tempo. Não são apenas coisas que [Amodei] inventou por conta própria. Mas pareceu apenas que muitas pessoas estavam meio prontas para abraçar isso e, de certa forma, [é] encorajador ver que há um consenso. Mas isso também me deixa um pouco cético de que isso representaria passos novos, genuínos e importantes em direção a uma desaceleração.

Kirsten Korosec: Primeiro de tudo, o consenso pode ser uma coisa boa. Além disso, pode ser o início da formação de um cartel. E então, vamos deixar claro [sobre] de quem estamos falando aqui. Estamos falando de laboratórios de fronteira de IA, e isso é específico e importante.

Você disse há um minuto que os detalhes não estão muito claros, mas sabemos que a ideia geral aqui é que avaliadores independentes terceirizados entrem para trabalhar dentro de [empresas] como Anthropic ou OpenAI e monitorem práticas e incidentes de segurança de IA. Mas há muita vagueza em torno disso.

Depois, há outra proposta para que as principais empresas de IA em países democráticos se coordenem em padrões e limites de segurança. E então há essa parte da cooperação internacional. Portanto, essas são as ideias gerais em torno disso.

Acrescentarei também que tem havido uma resistência muito considerável de pessoas muito específicas. E surpreendentemente, algumas pessoas que eu não achava que iriam resistir a isso. A mais óbvia, suponho, seria o CEO da Nvidia, Jensen Huang, que teve algumas palavras bastante duras. Não sei o que cada um de vocês pensa de […] alguns de seus comentários e da ligação que ele recebeu do presidente Trump no palco [na All-In Summit].

Sean: Acho que o Jensen entende que, até certo ponto, ele é visto como o adulto na sala aqui. O que é interessante, porque essa é uma dinâmica que eu acho que mudou. Se você perguntasse às pessoas há um ano, quase dois anos atrás agora, quem estava desempenhando esse papel à medida que essas empresas de IA começavam a crescer enormemente, acho que muitas pessoas teriam apontado para a Microsoft e Satya Nadella, e sinto que a Microsoft — por uma série de razões nas quais não precisamos entrar agora — perdeu esse controle de ser o adulto na sala. Certamente, em parte porque Nadella disse que faria o Google dançar, e então isso nunca aconteceu; na verdade, o oposto aconteceu, de várias maneiras.

Acho que o Jensen entende não apenas que ele precisa agradar ao maior número possível de pessoas e, portanto, quer dizer a coisa mais ponderada, como também é um dos intermediários mais úteis entre este campo e esta administração, a ponto de estar recebendo uma ligação do presidente enquanto está no palco nesta conferência muito concorrida e de alto perfil que permitiu que ambos respondessem a toda essa bagunça.

Kirsten: [Quanto] ao seu ponto sobre ele ser o adulto na sala e o intermediário, ele está em uma posição onde poderia fazer isso. Mas, na minha visão, eu diria que [sua aparição], que pareceu um pouco ensaiada, foi longe demais e realmente destacou o fato de que a Nvidia se beneficia enormemente com o avanço da IA de uma maneira sem ritmo.

Odeio ser cínica sobre isso, mas essa foi meio que a minha reação inicial a respeito.

Anthony: Os interesses de Trump e Huang estão alinhados, e também [Huang] está dizendo a [Trump] o que ele quer ouvir. 

Eu realmente achei que algumas das coisas em que ele estava focando especificamente valem a pena serem analisadas um pouco. Primeiro, ele falou sobre essa ideia de: “Não vamos ter uma desaceleração”. É interessante, apenas essa frase “desaceleração”, que tem surgido muito — mas, ao mesmo tempo, tanto Altman quanto Amodei [vão] usar a linguagem da desaceleração, mas a palavra que eles gostam de usar mais é “ritmo” [pace], certo? 

E essas três propostas — aquelas que você acabou de descrever, Kirsten — em teoria, elas poderiam resultar em coisas desacelerando, mas elas não estão dizendo isso explicitamente. Elas estão dizendo: “Ei, estamos tomando algumas medidas básicas de segurança e fazendo com que algumas pessoas fiquem de olho em nós”. Mas nenhuma dessas coisas está dizendo intrinsecamente que as coisas têm que ir mais devagar do que vão agora, pelo menos do que eu entendi.

Kirsten: Então eu tenho uma pergunta para o Sean. Não se poderia argumentar que, em uma sociedade de livre mercado, temos regulamentações existentes em vigor e também [no] ambiente competitivo em que não há protecionismo, se houver algo inseguro que seja lançado por uma empresa, ela deixaria de ser uma empresa viável? E existem reguladores em vigor hoje que poderiam ir atrás dessas empresas? Ou você rejeita essa ideia?

Sean: No vácuo, ou em um mercado que não está sendo distorcido por um monte de pressões externas diferentes, sim, acho que há um elemento disso. Mas temos um governo federal no momento que certamente não parece ansioso para fazer cumprir regulamentações em termos gerais, muito menos falando especificamente aqui. 

E também estamos nessa situação estranha em que — eu realmente não sei a melhor forma de colocar isso, mas não parece haver uma tonelada de escolha do consumidor impulsionando este mercado, no sentido de que, ok, se uma dessas empresas fizer algo muito ruim, elas verão um impacto em quantas cancelamentos existem ou o que seja.

Especialmente agora, à medida que migraram para o setor corporativo e estão ganhando muito mais dinheiro vendendo seus serviços para empresas, fica naturalmente mais difícil votar com seus dólares ali. As empresas não vão simplesmente empacotar tudo e mudar do Codex [da OpenAI] para o Claude Code [da Anthropic] só porque discordam em princípio de algo que a OpenAI fez.

E então eles também estão simplesmente sendo mantidos flutuando por tanto dinheiro de investimento que fica mais fácil para eles absorverem quaisquer dessas perdas se realmente as enfrentarem. Então, acho que é uma boa ideia na teoria, mas sinto que na prática, nada disso está realmente acontecendo.