As AI safety concerns mount, three pioneers make the case for staying open
À medida que projetos como o Pacing the Frontier recorrem a grandes laboratórios como forma de manter a pesquisa em IA segura, os modelos de código aberto tornaram-se um ponto sensível para a indústria. Com distribuição gratuita e pouco controle sobre como são utilizados, os modelos de pesos abertos não são facilmente controlados, levando alguns laboratórios a considerá-los verdadeiramente assustadores.
Mas na conferência Ai4, em Las Vegas, na semana passada, três dos pesquisadores de IA mais respeitados do mundo — o Nobel Geoffrey Hinton, a CEO e cofundadora da World Labs Fei-Fei Li e o cofundador do Coursera Andrew Ng — manifestaram-se sobre o assunto. E embora tenham discordado em táticas específicas, os três apresentaram argumentos fortes a favor de manter a IA aberta.
Para os três palestrantes, a principal preocupação era permitir que um punhado de grandes empresas de IA controlasse o ritmo do progresso. Quando poucas empresas controlam o acesso a uma tecnologia, como a Apple e o Google fazem com os sistemas operacionais móveis, a inovação pode desacelerar e as empresas que controlam as plataformas podem influenciar o que é construído nelas.
Andrew Ng disse estar preocupado com o surgimento de uma dinâmica semelhante na IA. “Eu não quero que existam guardiões”, disse Ng. “Isso limita a forma como todos nós podemos acessar a IA.”
As empresas têm um incentivo para proteger suas vantagens competitivas, inclusive influenciando as regras que regem a indústria. Isso poderia criar uma dinâmica em que apenas as empresas maiores e mais capitalizadas teriam recursos para construir os sistemas de IA mais avançados.
A solução de Ng foi manter múltiplos provedores, com modelos e empresas concorrendo em vez de permitir que um punhado de players domine o campo. “Se eu tivesse que dar uma recomendação, seria promover a abertura”, disse Ng, “porque a IA é uma tecnologia incrível e eu quero que ela esteja nas mãos de todo mundo”.
Mas nem todos concordaram que os modelos de pesos abertos ajudariam a preservar esse cenário. Hinton, em particular, estabeleceu uma distinção entre o software de código aberto — que disponibiliza o código subjacente para inspeção e modificação — e os modelos de pesos abertos, que liberam para o público os parâmetros de um modelo de IA treinado.
“O código aberto é ótimo. Você mostra o código às pessoas, e muitas olham para as linhas de código e dizem: ‘Ah, há um bug.’ Pesos abertos significam que você treina um modelo grande e depois fornece os pesos às pessoas. Isso é muito diferente”, afirmou Hinton. “Eu era contra os [pesos] abertos porque isso torna muito fácil para as pessoas pegarem esses grandes modelos de base — que são muito caros de treinar — e, por muito menos dinheiro, treiná-los para fazer coisas ruins, como ataques cibernéticos.”
Mas, independentemente de suas reservas, Hinton reconheceu que os modelos de pesos abertos já são uma parte permanente da IA. “Acho que essa batalha foi perdida. Agora temos modelos de pesos abertos, então a barreira para que muitas pessoas obtenham esses grandes modelos — que era o custo de treinar modelos de base — essa barreira desapareceu. É tarde demais.”
No entanto, aceitar a realidade não significava ignorar os riscos. A posição de Hinton era clara: a IA continuaria a avançar, e ele achava isso majoritariamente positivo. Ele disse que isso impulsionaria a produtividade e melhoraria a educação e a saúde. “Preocupar-se com os possíveis efeitos ruins da IA e com as coisas que seres inteligentes podem fazer quando forem mais inteligentes do que nós... Eu não acho isso injusto. Acho injusto rotular qualquer pessoa que pense assim como um alarmista”, acrescentou Hinton.
Ng adotou uma visão diferente. A questão, argumentou ele, não era se os modelos abertos eram arriscados, mas quem controlava o acesso e quem venceria o mercado. Quem construísse o modelo mais barato teria a vantagem. Se os modelos de pesos abertos da China ganhassem adoção generalizada na Ásia, na África e/ou no mundo em desenvolvimento, alertou ele, eles poderiam influenciar a forma como bilhões de pessoas encontram ideias sobre democracia, liberdade e direitos humanos.
“Uma coisa que espero que façamos é incentivar a competitividade americana e a IA de código aberto. Acontece que a IA é uma fonte tremenda de poder brando (*soft power*). É possível ver como o modelo da China tem conquistas extraordinárias na África, por exemplo”, disse Ng. “Mas a minha preocupação é que, por causa de todo o lobby nos EUA e do alarmismo, a construção de IA de código aberto na América está lutando para competir com os modelos de pesos abertos vindos da China, e meu receio é que, se a China descobrir uma maneira fundamentalmente mais econômica de construir IA, as coisas que são mais econômicas terão uma vantagem fundamental de adoção nos negócios.”
Li discordou dessa abordagem. “É muito perigoso transformar isso em uma dicotomia entre a abertura total e o fechamento total”, disse ela. “Em sistemas de software complexos, bem como em sistemas científicos, a questão é muito mais sutil.”
Li usou a física nuclear como exemplo: artigos científicos são publicados abertamente, mas o urânio é regulamentado, enquanto o trabalho de laboratório fica em algum lugar intermediário. A lição, explicou ela, é que a abertura não precisa ser uma escolha de tudo ou nada. Diferentes camadas do ecossistema podem operar em diferentes níveis de abertura.
Ela também destacou colaborações entre instituições públicas e privadas, como o Projeto Genoma Humano. O conhecimento resultante tornou-se uma plataforma sobre a qual outros puderam construir, disse ela, permitindo que empresas farmacêuticas lucrassem, cientistas avançassem em seus trabalhos e a sociedade se beneficiasse.
“Portanto, acho que temos que usar [a IA] como esse tipo de infraestrutura”, disse Li. “Precisamos de alguns níveis de abertura — tanto na descoberta científica quanto na educação, em parcerias globais, bem como de modelos de negócios lucrativos para empreendedores. Mas também aceitaremos sistemas de código fechado. Este debate, especialmente no nível amplo de ‘só podemos tolerar um’, é um falso debate. Precisamos chegar a um nível de nuance.”
Mas todos concordaram que algum nível de regulamentação seria necessário para manter a IA no caminho certo. “O que queremos fazer é desenvolver a IA em uma direção que ajude as pessoas, e a regulamentação nos ajudará a fazer isso”, afirmou Hinton. “Você não pode deixar para pessoas como Elon Musk e Mark Zuckerberg a decisão de como a IA deve ser feita.”
