Não precisamos de regulamentação de IA — deixem a segurança conosco, diz Jensen Huang, da Nvidia

O fundador e CEO da Nvidia, Jensen Huang, deixou sua posição sobre os perigos que a IA representa muito clara ao falar na conferência Dreamforce da Salesforce na terça-feira. Para ele, a IA não é alguma nova forma de "mente alienígena", como pelo menos um pesquisador de segurança da OpenAI a descreveu. É apenas hardware e software, diz ele, construídos por humanos. Isso significa que, em sua opinião, ela pode ser controlada por humanos e pelas leis existentes.

"A segurança é um problema de engenharia, não jurídico", disse ele. "Afinal, estamos desenvolvendo software. Afinal, estamos desenvolvendo sistemas de computação. É um sistema de computação complicado, mas em última análise é um sistema de computação."

Portanto, não há necessidade de novas leis ou regulamentações para governá-la, ele argumenta. De fato, Huang vê pouca necessidade de novas leis em geral. O livre mercado, argumenta ele, será suficiente para pressionar as empresas a não lançarem produtos inseguros.

"Se não estamos confiantes sobre a segurança dos produtos, como todas as empresas, como você e eu, todas as empresas aqui, se você constrói um produto ou serviço e não está confiante em sua funcionalidade, capacidade ou segurança, então não o lance. E isso é algo muito óbvio a se fazer", disse ele.

Ele continuou: "Você vai no seu ritmo até ter certeza de que está lançando algo que o mercado apreciará. As forças de mercado já estão aí. Não precisamos de novas leis. Não precisamos de novas regulamentações. Precisamos apenas que as empresas decidam quando [devem] correr o mais rápido que puderem. Acho que inovação, velocidade e produtos seguros... é uma falsa escolha. Você definitivamente pode ter ambos ao mesmo tempo. Então corra o mais rápido que puder. Mas se você sentir a qualquer momento que a empresa está fora de controle, ou que o produto não será seguro, sabe, faça uma pausa e certifique-se de acertar."

De certa forma, este é um pensamento reconfortante. Se alguém no mundo conhece IA, é o fundador da Nvidia, que vem construindo os cérebros de hardware da IA muito antes de o ChatGPT existir e que agora dirige uma empresa que também faz modelos de código aberto, agentes, frameworks e ambientes de teste (*sandboxes*).

Por outro lado, se formamos céticos, o ponto de vista dele também não surpreende alguém que teve seu pão tão bem manteigado pelo boom da IA. Por que ele iria querer que a regulamentação aparecesse e adicionasse uma camada de empecilho que pudesse desacelerar a busca da Nvidia para vender cada vez mais sistemas e softwares de IA? Como ele também disse na entrevista: "Sou mais ambicioso do que nunca. Como resultado de nossa ambição, e com o impulso de produtividade de produtos que obtemos da IA, o céu é o limite para nós. O céu é o limite para nossa empresa. O céu é o limite para cada setor, para cada país individual."

Infelizmente, mesmo empresas com as melhores intenções lançam produtos com falhas e consequências não intencionais, até mesmo softwares. Lembra-se do fiasco da tela azul da morte da CrowdStrike em 2024 que deixou milhares de voos em terra e causou outros estragos para as empresas? Depois, há empresas acusadas de agir deliberadamente com intenções menos do que boas. A Meta acabou de pagar US$ 18 bilhões para resolver um processo sobre os danos das redes sociais às crianças.

E a IA também já causou danos, independentemente das intenções ou testes de segurança envolvidos, desde um modelo da OpenAI invadindo o Hugging Face até processos judiciais contra o laboratório de IA sobre os suicídios de jovens que tiveram longas conversas com seu chatbot.

A estratégia de "deixá-los em paz", que permitiria que essas empresas lançassem produtos conforme achassem melhor, pode ser uma abordagem imprudente para a segurança da IA no que diz respeito à sociedade. Embora Huang esteja certo de que é possível que as leis de responsabilidade civil por produtos defeituosos existentes possam abranger a IA — se a IA de alguma forma não nos matar a todos antes que casos suficientes passem pelos tribunais para testar essa teoria.

Ele não discutiu a outra rota, que parece perto de tomar forma: a autorregulação da indústria. A abordagem de Huang tem sido mais a de defender modelos de pesos abertos e o uso deles pelas empresas como um contrapeso competitivo aos laboratórios de IA proprietários.

Mas agora, a indústria tem uma janela curta para instituir a autorregulação e incentivar os laboratórios de IA em todo o mundo, mesmo aqueles na China, a enxergarem a sabedoria em participar. Como disse o CEO da Microsoft, Satya Nadella, no All-In Summit na segunda-feira: "A China também deve se importar profundamente com as mesmas preocupações de segurança se os Estados Unidos se importam com elas, certo? Por que deveria ser diferente para eles? Não é como se eles não fossem ter o mesmo problema de invasão (*hacking*). Não é como se eles não quisessem garantir que seus cidadãos se beneficiassem da IA, assim como nós gostaríamos que nossos cidadãos se beneficiassem da IA."

Por enquanto, no entanto, se Huang for contra qualquer nova regulamentação de IA, ele pode ser influente o suficiente para conseguir o que quer. Ele também demonstrou esta semana que, literalmente, tem a atenção do presidente Trump.