O debate sobre a segurança da IA é sobre segurança ou controle?

Como a indústria de tecnologia deve abordar o tópico da segurança da IA? Cada vez mais, executivos de alto escalão estão opinando sobre essa questão, à medida que grassa um debate sobre se incidentes como o incidente do Hugging Face — no qual um agente da OpenAI hackeou várias empresas diferentes — sugerem que a IA está prestes a mergulhar nosso mundo no caos.

Nas últimas semanas, laboratórios proeminentes pediram uma desaceleração no avanço da IA. De forma mais dramática, o CEO Dario Amodei escreveu um ensaio de quase 4.000 palavras no qual apresentou os argumentos do porque o desenvolvimento da IA deve ser desacelerado para que salvaguardas adequadas possam ser implementadas. Esse plano envolve — entre outras coisas — uma estratégia internacional de colaboração entre empresas e governos para o uso seguro. Executivos rivais de IA — como Sam Altman, da OpenAI, e Elon Musk, do xAI — endossaram o plano de Amodei.

O ensaio estimulou ainda mais conversas em toda a indústria de tecnologia, embora nem todos concordassem com o apelo de Amodei por uma ação globalmente coordenada. De fato, muitos parecem achar que a supervisão governamental não precisa necessariamente desempenhar qualquer papel.

Os mais recentes entrantes nesse debate incluem o CEO da Meta, Mark Zuckerberg, que foi ao X esta semana para compartilhar seus pensamentos sobre o assunto.

“Minha opinião é que a confiança e o alinhamento estão se tornando rapidamente as capacidades mais importantes que diferenciarão agentes e modelos.” Zuckerberg revelou que sua empresa havia adiado o lançamento de seu modelo de IA devido a preocupações com a segurança. “A Meta adiou o envio do Muse por vários meses para focar em segurança e proteção”, disse Zuckerberg. “Não pedimos que todos os outros fizessem isso antes de nós. Nós simplesmente o fizemos como parte do nosso trabalho diário porque era claramente a coisa certa a fazer para as pessoas e para nós.”

Zuckerberg — que endossou partes do plano de Amodei — parece dar a entender que a ação governamental é desnecessária e que os incentivos orgânicos que estruturam a indústria obrigarão as empresas a acertar na segurança. O mercado deve, em última análise, trazer sucesso para empresas que tomam o cuidado de criar modelos que não causem caos. Isso parece se alinhhar com o próprio ensaio massivo de Zuckerberg — escrito no mês passado — que defendia a colaboração limitada com o governo, quando necessário, mas que em grande parte propagandeava a competitividade americana como a chave para um futuro tecnológico próspero.

Em geral, esta parece ser a posição de muitos outros executivos de tecnologia.

Outro executivo de alto escalão a dar sua opinião foi o cofundador do Reddit, Alexis Ohanian, que disse à CNBC na quarta-feira que sentia que a indústria de tecnologia tinha sido amplamente “insensível” quando se tratava de explicar os riscos da IA ao público. No entanto, assim como Zuckerberg, Ohanian também pareceu expressar esperança de que as empresas conseguirão resolver as coisas por conta própria. Shane Legg, cofundador do Google DeepMind, também compartilhou suas opiniões. “Estamos vivendo em um período em que as capacidades estão avançando muito, muito rapidamente”, disse Legg. “Mas não podemos deixar que as capacidades fiquem à frente da segurança.” Ele acrescentou: “Precisamos realmente trabalhar nos detalhes disso e de como isso funcionaria na prática.”

Apesar dos apelos de grandes laboratórios para a colaboração público-privada, algumas dessas vozes pró-regulamentação também parecem relativamente contentes em deixar que as empresas escrevam suas próprias regras. De fato, uma história um pouco menos visível, mas não menos interessante, desta semana foi uma reportagem do The Information que dizia que a OpenAI, a Anthropic e outras grandes empresas de IA estavam trabalhando juntas para criar uma organização de padrões de IA — descrita por um veículo como um “órgão autorregulatório” privado.

Discussões já foram realizadas anteriormente sobre a criação de uma organização semelhante administrada pelo governo federal. No entanto, a Casa Branca de Trump — que inclui defensores vocais da IA e tem pressionado fortemente por um negócio de tecnologia não regulamentado (a administração até buscou impedir fortemente que os governos estaduais introduzissem suas próprias leis de IA) — não prosseguiu com nada. O “czar de IA” da administração, o veterano de tecnologia David Sacks, disse que a regulamentação da IA deve ser deixada para as empresas que a desenvolvem.

Assim como a Casa Branca, membros proeminentes do Congresso parecem igualmente desinteressados em aceitar a oferta de Amodei para regular sua empresa. Não muito depois de o ensaio do CEO da Anthropic ser publicado, o presidente da Câmara, Mike Johnson, abordou as preocupações sobre os avanços catastróficos da IA da seguinte forma: “Vocês não vão estar todos mortos daqui a 10 anos”, disse ele.

Uma organização privada manteria a indústria não regulamentada, exceto por compromissos voluntários, e naturalmente conferiria uma certa quantidade de autoridade e influência às empresas responsáveis por criá-la. Isso leva a outra alegação em curso, que é a de que os apelos da indústria por regulamentação são na verdade uma estratégia de “captura regulatória”. De acordo com este argumento, empresas poderosas que já desfrutam de uma posição de destaque na indústria podem usar artifícios regulatórios para isolar ou desfavorecer empresas menores e com menos recursos — sufocando, assim, sua concorrência. Isso não precisa envolver regulamentações reais, mas pode envolver padrões voluntários da indústria que, no entanto, exercem pressão sobre firmas menos poderosas.

Muitas vozes proeminentes no governo chinês ecoaram essa posição. Depois que Amodei pediu para “ritmar a fronteira” esta semana, o porta-voz do Ministério das Relações Exteriores da China, Guo Jiakun, acusou os americanos de usar “alarmismo” para atrapalhar o desenvolvimento da governança global de IA, enquanto um editorial no jornal estatal da China chamou a retórica de Amodei de saída direta de um “manual da Guerra Fria”.

Reestruturar a forma como as empresas fazem negócios com a China — uma das coisas que Amodei pede em seu ensaio — poderia naturalmente ser uma oportunidade para as empresas americanas pesarem as coisas a seu favor. Amodei até admite que esse é o objetivo. “Se executarmos bem essas medidas, acredito que elas desacelerariam o progresso da China o suficiente para ampliar significativamente a liderança da América nos próximos 3 a 5 anos — a janela em que a IA se torna geopoliticamente mais importante”, escreveu ele em seu ensaio.

Não é apenas a China, no entanto, que vê os grandes laboratórios de IA americanos como buscando viciar o jogo a seu favor. Aidan Gomez, CEO da empresa canadense de IA Cohere, acusou recentemente essas empresas de formarem um “cartel”, escrevendo, em uma postagem de blog: “A IA precisa de salvaguardas. Essa não é a disputa e nunca foi. A disputa é sobre quem as escreve, quem pode participar e cujos interesses as regras estão protegendo.”

Como Gomez observa, o campo da segurança de IA é profundamente político, no qual os termos pelos quais a segurança é definida — e por quem — ajudarão, em última análise, a determinar quem tem largada na frente e quem fica para trás na próxima fase da competição de IA.