Google DeepMind lança instituto para ampliar o debate sobre AGI

Pesquisadores da Google e do Google DeepMind lançaram o Instituto DeepMind na quarta-feira para avançar na conversa sobre a inteligência artificial geral. O instituto lista o cofundador da DeepMind Shane Legg, o executivo da Google James Manyika e o presidente do Google DeepMind Demis Hassabis como diretores, com Legg atuando como editor-chefe. 

O novo instituto tem como objetivo trazer à tona opiniões divergentes entre a Google, o Google DeepMind e a comunidade global de pesquisa em geral em torno da IAG. “Eles nem sempre concordarão e provavelmente mudarão de ideia à medida que mais dados e informações vierem à luz na fronteira de rápida evolução”, dizia o anúncio.

A coleção inaugural de quatro ensaios aborda uma variedade de tópicos: políticas econômicas para gerenciar uma potencial disrupção da IAG, preservação do raciocínio legível por humanos de modelos, princípios para o florescimento humano e uma estrutura para avaliar modelos de IA de fronteira. 

Um ensaio, dos pesquisadores de segurança da DeepMind Rohin Shah e Anca Dragan, argumenta que a janela de transparência da IA em diminuição — a capacidade de ver e verificar o raciocínio passo a passo de um modelo — não é inevitável. À medida que novas arquiteturas tornam os modelos mais poderosos mais difíceis de monitorar, os autores dizem que desenvolvedores e reguladores devem enfrentar os compromissos de segurança diretamente. Isso pode significar limitar a “profundidade serial opaca” — a quantidade de computação sequencial que um modelo pode executar sem produzir um rastro de raciocínio legível — ou exigir que os desenvolvedores demostrem que sistemas menos transparentes continuam igualmente monitoráveis.

Em outro ensaio, Hassabis propõe um órgão de padrões de IA de fronteira liderado pelos EUA para avaliar os modelos de IA mais avançados. Sob sua estrutura, os desenvolvedores inicialmente enviariam modelos voluntariamente para revisão até 30 dias antes do lançamento. Uma vez que o sistema de avaliação tenha se provado eficaz, passar em seus testes pode se tornar um requisito para implantar modelos de fronteira nos Estados Unidos.

O órgão inicialmente desenharia avaliações em consulta com empresas de IA, mas eventualmente desenvolveria avaliações independentes e não divulgadas — o que o ensaio chama de testes “reservados” — para evitar que os laboratórios adaptassem seus modelos a avaliações conhecidas. Hassabis disse que a estrutura poderia ser “intensificada se a gravidade da situação exigir”, incluindo potencialmente uma desaceleração coordenada entre desenvolvedores de IA de fronteira. 

Os ensaios chegam no momento em que o debate sobre a segurança da indústria muda de declarações amplas de preocupação para propostas concretas de divulgação, escrutínio externo e, caso as salvaguardas fiquem para trás, desacelerações coordenadas. Essa mudança acelerou esta semana quando líderes da indústria endossaram elementos do apelo do CEO da Anthropic, Dario Amodei, para “ritmar” o desenvolvimento de IA de fronteira.