As conversas sobre segurança em IA se tornaram inacreditáveis

Esta semana, duas conversas sobre a segurança da IA se tornaram virais, demonstrando o quão difícil é discernir fatos de ficção sobre a inteligência artificial.

No primeiro caso, Andrew Yang, ex-candidato presidencial e atual CEO da operadora móvel Noble Moble, disse à CNN na quinta-feira que havia “se encontrado com o chefe de um laboratório” que tinha “a crença” de que os robôs hackers do Hugging Face da OpenAI “plantaram códigos autorreplicantes por toda a internet, o que torna a internet agora inutilizável para testar modelos.”

Yang disse que isso significa que o verdadeiro motivo pelo qual a OpenAI e a Anthropic pediram uma desaceleração é porque “elas precisam criar internets sintéticas para treinar seus robôs, o que vai levar algum tempo e dinheiro.”

Embora haja definitivamente uma tendência de usar mais dados sintéticos (ou seja, dados gerados por IA) para treinar modelos, um profissional de segurança de IA me disse que esse problema de segurança específico é, na melhor das hipóteses, improvável. Mesmo que a internet esteja de fato poluída pelos robôs hackers do Hugging Face da OpenAI, os pesquisadores de IA poderiam simplesmente filtrar esse código caso o encontrassem.

O segundo comentário veio de Noam Brown, que lidera a pesquisa de raciocínio de IA na OpenAI. Falando a Dwarkesh Patel em um episódio de podcast lançado na quinta-feira, Brown observou que a verdadeira lição do incidente do Hugging Face foi que “as pessoas subestimaram a IA.”

Brown disse que a sandbox fraca — o sistema destinado a impedir que uma IA se comunique externamente — também foi obviamente um fator contributivo. (Para recapitular: apesar da sandbox, o modelo da OpenAI encontrou um link para a internet, criou agentes na rede que invadiram o Hugging Face em um ataque coordenado, hackearam o sistema e roubaram as respostas do teste de benchmark em que os pesquisadores estavam testando o modelo).

Brown apontou que “não está convencido” de que mesmo um sistema isolado (air-gapped) — onde o computador não está conectado a nada externo — impediria que uma IA escapasse. Ele apontou para pesquisas de 2015 mostrando que computadores isolados podem ser teoricamente violados.

“Existem estudos — e isso é principalmente acadêmico — onde você pode ter dois computadores um ao lado do outro que estão isolados, e eles ainda conseguem se comunicar porque têm sensores de temperatura. Um deles consegue fazer a CPU funcionar muito quente, e então o outro consegue detectar a mudança de temperatura. Isso lhes dá um mecanismo para se comunicarem”, disse Brown.

Seu ponto principal — que “nunca devemos subestimar a IA” novamente — é compreensível, mesmo quando os pesquisadores acham que garantiram a segurança total. No entanto, esse risco específico de um sistema isolado ainda conseguir se libertar e causar estragos é, na melhor das hipóteses, improvável. Como uma pessoa no X observou sobre essa pesquisa, os computadores precisavam estar quase se tocando para sentir as flutuações de calor e, quando o faziam, a taxa de comunicação nos testes era de cerca de 1 a 8 bits de dados por hora.

Pense nisso como falar uma palavra por hora. Quando dois computadores isolados conseguirem tramar sua maldade nessa taxa, todo o universo tecnológico estará em outra era. É como o Rip Van Winkle das preocupações apocalípticas.

Mas o fato é que incidentes reais de segurança de IA parecem tanto com ficção científica que praticamente qualquer cenário parece plausível.

Por exemplo, pesquisadores flagraram modelos da OpenAI deixando recados para seus sucessores, com a intenção de ensinar a próxima geração a esconder mau comportamento. Os pesquisadores também flagraram modelos da Anthropic tornando-se cada vez mais implacáveis, incluindo a violação deliberada de leis, quando colocados em uma simulação em que administravam uma máquina de venda automática.

No início deste mês, o pesquisador da OpenAI Dan Selsam publicou um texto no qual afirmou que os modelos agora entendem quando estão sendo observados por humanos e alteram seu comportamento. Isso faz com que pareçam alinhados (ou seja, agindo como o humano deseja) “mesmo quando não estão”. Portanto, os modelos de hoje mentem quando estão sendo observados e podem até planejar esconder evidências.

No início deste mês, o cientista-chefe da OpenAI, Jakub Pachocki, chegou ao ponto de chamar os modelos de IA de “uma mente alienígena” e sugeriu que o que realmente precisamos fazer é ensiná-los a “amar” a humanidade.

Então, sim, desacelerar para entender isso e construir mecanismos de autorregulação tornou-se uma necessidade imediata e óbvia. Os pesquisadores de IA são os únicos que podem descobrir como controlar a mentira, a invasão e outros comportamentos potencialmente perigosos que já testemunhamos.

Ainda assim, também pode ser prudente da parte deles terem mais cuidado com seus cenários hipotéticos. A julgar pelo que esses especialistas nos disseram, os modelos de IA estão ouvindo e são engenhosos. Nós realmente não precisamos dar a eles mais nenhuma ideia diabólica.