A superinteligência e um pacto de segurança não vinculativo podem resolver o problema de imagem da IA?

O presidente Donald Trump recebeu muitos dos maiores nomes da inteligência artificial esta semana — em parte para anunciar que o governo dos EUA não chama mais isso de inteligência artificial. Agora é super inteligência.

No episódio mais recente do podcast Equity do TechCrunch, Kirsten Korosec, Sean O’Kane e eu discutimos a motivação por trás da reunião e o efeito que ela pode ter na indústria de IA. Todos nós ficamos bastante céticos de que o "Compromisso Conjunto sobre Responsabilidades de Fronteira" assinado pelos executivos vá resultar em muita coisa, especialmente porque — como Sean observou — ele é "profundamente não vinculativo", pelo menos de uma perspectiva jurídica. (Em vez disso, Trump disse que o considera "moralmente vinculativo".)

Kirsten sugeriu que o verdadeiro significado da reunião pode ter sido o de "um esforço de reformulação de marca em torno da IA". (Um esforço que continuou neste fim de semana com o anúncio de Trump de uma nova Força de Super Inteligência.) Para ela, a grande mensagem foi: "A IA vai nos matar, é assustadora, vai roubar empregos — mas a super inteligência não."

Continue lendo para conferir uma prévia da nossa conversa, editada por questões de duração e clareza.

Anthony Ha: Oficialmente, por ordem do presidente dos Estados Unidos, não é mais inteligência artificial, é super inteligência. Estávamos conversando sobre isso na semana passada, porque isso é algo que [Trump] vem insinuando — ele não faz insinuações, ele vem dizendo [isso] há algum tempo. Mas agora isso está assinado em ordem executiva. Se você for um representante oficial dos EUA, deve dizer super inteligência, e não inteligência artificial.

E isso também fez parte deste anúncio mais amplo sobre a segurança da IA, o que eu acho interessante tanto por causa deste pacto que foi anunciado, quanto pelo fato de ter acontecido. Parece que foi montado de forma bastante rápida, porque apenas duas semanas atrás, uma semana atrás, o presidente Trump estava dizendo: "Não precisamos de nada disso, precisamos liderar em IA, não podemos restringi-la de forma alguma, não precisamos de nenhuma regulamentação, qualquer um que esteja dizendo que há algum perigo na IA é essencialmente um infiltrado chinês ou democrata." E, no entanto, todos esses CEOs de IA se reuniram com ele no início desta semana e assinaram este pacto.

Kirsten Korosec: No período que antecedeu isso, devemos dizer que não apenas houve resistência à regulamentação — e podemos discutir se esta ordem executiva sequer faz algo disso —, eu diria que não, há um pouco de teatro ali —, mas o fato importante e interessante é que, há poucos dias, a Anthropic estava realmente em desgraça, por assim dizer, em termos do que estava acontecendo nos bastidores com o presidente Trump. 

Tudo isso mudou quando [o CEO da Anthropic] Dario Amodei foi convidado para um jantar às 22h. Ele teve essa reunião a portas fechadas e, poucos dias depois, tivemos este almoço, e neste almoço temos praticamente todos os poderosos da tecnologia de todas as grandes empresas de tecnologia existentes. Então Mark Zuckerberg estava lá, Jeff Bezos estava lá, Elon Musk estava lá, Dario, é claro, estava lá, eles estavam todos lá. 

Eu me pergunto se algum de vocês assistiu à coletiva de imprensa que aconteceu depois, sobre a qual houve muitos, muitos memes, por causa do comportamento interessante e engraçado quando você junta um monte de CEOs de tecnologia.

Mas acho que minha pergunta maior para vocês dois é: O que tudo isso significa? E isso significa alguma coisa?

Sean O’Kane: Quanto tempo você tem? Primeiro de tudo, claro, eles jantaram, Trump e Dario. Se você ler a entrevista à revista Time que Trump acabou de dar, seu palpite é tão bom quanto o meu sobre o quão informado ele estava de que aquele jantar sequer iria acontecer, o que é uma realidade estranha para se viver, mas é apenas aquela em que habitamos.

Também direi outra coisa que me deixa cético — surpresa, surpresa — sobre o quanto a relação entre a administração e a Anthropic foi reparada, é que, por mais que haja claramente pessoas tentando aproximar esses dois grupos, o Departamento de Defesa ainda é muito irredutível de que a Anthropic é horrível, "woke" e um risco à segurança nacional. Emil Michael critica a Anthropic dia sim, dia não no X, ao que parece. Acho que ainda há alguma distância ali, apesar de Dario ter aparecido para essa coisa. 

No que diz respeito ao acordo e tudo mais, vamos ser sinceros, eles escreveram o nome dos Estados Unidos errado no acordo que todos assinaram. Ele também é profundamente não vinculativo. Quer dizer, é totalmente voluntário. Acho que meu aspecto favorito sobre isso foi que Trump o descreveu como sendo, entre aspas, "moralmente vinculativo", o que é apenas um nível de abstração e terminologia que eu nunca tinha ouvido antes.

Anthony: Em termos da Anthropic e da relação deles com a administração Trump, tem havido uma série de reportagens, especialmente durante aquele grande conflito com o Departamento de Defesa, de que diferentes partes da Casa Branca tinham relações diferentes com a Anthropic. O secretário do Tesouro parecia ser um grande fã, enquanto o Departamento de Defesa — definitivamente não era grande fã, ou pelo menos estava insatisfeito com algumas das condições que a Anthropic estava tentando impor ao uso de sua tecnologia. 

Nesse sentido, parece que nada necessariamente mudou. Há pessoas na Casa Branca que querem usar a tecnologia da Anthropic, querem eles envolvidos nessas decisões, e outras que realmente, realmente, realmente, realmente não querem.

Em termos de acordo, não parece super significativo. O que é significativo é o fato de que eles sentiram que isso era algo que valia a pena fazer. Como indicado pelo fato de terem escrito Estados Unidos errado, parecia que eles correram para juntar tudo isso. [Mas] o fato de esse tipo de gesto ter sido necessário parece significativo, mesmo que eu não ache que o acordo em si vá levar a nenhuma mudança importante.

Kirsten: Eu acho que houve uma coisa importante que aconteceu. E para mim, esse é o objetivo disso, que foi um exercício de reformulação de marca em torno da IA. "A IA vai nos matar, é assustadora, vai roubar empregos, mas a super inteligência não." Esta não é a minha crença pessoal. Para mim, essa foi a mensagem.