Até o rei da Inglaterra tem suas hesitações sobre IA

O rei Charles organizou uma reunião de cúpula privada na quinta-feira com alguns dos nomes mais proeminentes da inteligência artificial e do governo do Reino Unido, incluindo Jensen Huang, da Nvidia, líderes da OpenAI e da Anthropic, o novo ministro de IA do Reino Unido, Kanishka Narayan, e até mesmo o chefe do serviço de inteligência estrangeira do Reino Unido. Paolo Benanti, que assessora o papa sobre IA, também esteve presente.

As declarações do rei na cúpula — realizada na Dumfries House, uma propriedade do século XVIII em Ayrshire pertencente à fundação de caridade do rei Charles — foram notáveis porque a família real costuma ter cautela, por razões constitucionais, em se aprofundar demais em questões políticas — e a IA é um dos assuntos mais inflamados do mundo atualmente. O rei instou os líderes presentes a encontrarem uma maneira de controlar a IA "antes que seja tarde demais", acrescentando que o rápido desenvolvimento dessa tecnologia — e sua "essência" — era "ao mesmo tempo intrigante e profundamente preocupante". 

“A IA já está mostrando uma imensa capacidade de melhorar e salvar vidas”, afirmou, citando a medicina e a ciência como exemplos. “No entanto, aqueles que criaram essas tecnologias estão agora alertando cada vez mais que a IA corre o risco de desenvolver capacidades mais sombrias, talvez até de tirar vidas.” Esta declaração veio apenas alguns dias após um pesquisador da Anthropic se demitir, escrevendo online que as empresas de IA estavam “correndo para construir máquinas muito mais inteligentes do que qualquer humano” e que a humanidade “talvez não sobreviva a isso”. 

O rei continuou, dizendo que é urgente considerar adequadamente os “perigos existenciais” do que aconteceria se essa tecnologia caísse em mãos erradas e fosse usada de “maneiras potencialmente catastróficas”. 

“Certamente, precisamos de meios suficientes de controle antes que seja tarde demais?”, disse ele. Ao encerrar, o rei Charles instou os líderes a encontrarem uma forma de aproveitar o lado bom da IA e a construir cooperação e consenso internacionais para alcançar esse resultado. (Esta declaração surge após a Anthropic suspender o acesso aos seus modelos Fable e Mythos apenas para clientes dos EUA, chocando a cena tecnológica europeia e levando muitos a refletirem sobre o conceito de soberania em IA.) 

“A tarefa diante de vocês não é meramente avançar a tecnologia, mas garantir que ela permaneça firmemente a serviço da humanidade, da comunidade e do mundo natural”, disse ele ao terminar seu discurso. “À medida que abraçamos o que é novo, não devemos perder o que é intemporal.” 

Veículos de imprensa relatam que ele permaneceu por cerca de 20 minutos, deixando os convidados discutirem esses assuntos entre si. Para a cúpula do rei, a OpenAI enviou sua diretora financeira (CFO), Sarah Friar, enquanto a Anthropic enviou Tino Cuéllar, que lidera os assuntos globais. Quando contatado para comentar, Cuéllar afirmou que a empresa se sentiu honrada por ter participado da discussão e que estava grata ao rei por “reunir líderes da indústria e vozes de toda a sociedade para debater o papel da IA em servir ao bem público”. 

Esta não é a primeira vez que o rei Charles fala sobre os desafios e benefícios da IA, tendo feito isso em 2023 e 2024. Esta cúpula, no entanto, é especialmente oportuna, à medida que a IA continua a dominar todos os setores, tópicos e formas de conversação. Este mês, Sam Altman, da OpenAI, Elon Musk e Dario Amodei, da Anthropic, pediram uma desaceleração no desenvolvimento da IA, mas Huang, da Nvidia, e o presidente Donald Trump rejeitaram prontamente esses apelos. “Estamos liderando a China em IA”, declarou o presidente. “Somos o país mais sofisticado do mundo e, francamente, quero manter assim, porque quem vencer na IA, vence.” 

Isso demonstra quão complexo o assunto se tornou, à medida que os interesses das grandes empresas de tecnologia, da política e da sociedade colidem. No último ano, a OpenAI e a Anthropic vêm indicando a chegada de IPOs estrondosos, embora a OpenAI tenha afirmado recentemente que seus planos de abertura de capital foram paralisados este ano, à medida que persistem as preocupações com a segurança da IA.