Diretor-executivo da Anthropic expõe plano para "ritmar a fronteira"

Temos visto avisos cada vez mais drásticos de pesquisadores de IA sobre os perigos da inteligência artificial e até comentários do CEO da OpenAI, Sam Altman, de que pode ser hora de "ritmar" o desenvolvimento da IA. Mas como seria isso na prática?

Em uma nova postagem em seu blog, o CEO da Anthropic, Dario Amodei, não apenas ecoou o apelo para "ritmar a fronteira", mas também delineou três estratégias amplas para fazer isso. E ele disse que a Anthropic está se "comprometendo unilateralmente" com uma delas.

O debate sobre a segurança e o alinhamento da IA se intensificou esta semana depois que o pesquisador Jacob Coxon escreveu que está se demitindo da Anthropic devido a preocupações de que as principais empresas de IA estão "jogando com nossas vidas", enquanto as pessoas que constroem a tecnologia "acreditam sinceramente que ela pode nos matar a todos até o final da década", uma afirmação repetida por outros na Anthropic.

A postagem de Amodei não mencionou explicitamente a demissão de Coxon ou suas preocupações, mas o CEO escreveu que duas coisas o convenceram de que é hora de adotar uma abordagem mais cautelosa para o desenvolvimento de IA: a invasão da OpenAI-HuggingFace e o fato de que "a IA tem avançado drasticamente mais rápido" nos últimos meses, particularmente com sua "crescente capacidade de construir a próxima geração de IA".

“Devemos diminuir o ritmo com que melhoramos as capacidades dos modelos de IA”, escreveu Amodei. “O progresso ainda parecerá rápido, e devemos fazer uso sábio do tempo que ganhamos.”

Seu primeiro passo proposto envolveria "avaliadores embutidos" de organizações terceirizadas como o METR — avaliadores que podem verificar se as empresas de IA estão realmente cumprindo seus compromissos de ritmo e segurança e também garantir que incidentes de segurança sejam relatados. (A OpenAI foi recentemente criticada por não relatar um incidente em que seus agentes de IA assumiram o controle de um formulário wiki alemão.) 

Amodei comparou esses avaliadores a reguladores que foram integrados a funcionários de bancos, e ele disse que convidá-los a entrar é "algo com o qual a Anthropic está se comprometendo unilateralmente (e pede que os governos obriguem outras empresas de fronteira a fazerem o mesmo)". Isso significa dar aos avaliadores crachás da empresa, mesas e laptops, e fornecer acesso "principalmente comparável ao que as equipes internas de avaliação de risco têm", com exceções quando exigido por lei ou contratos.

Em seguida, Amodei pediu que as principais empresas de IA "dentro de países democráticos" coordenem  "padrões de segurança comuns, bem como limites sobre a taxa de progresso descontrolado da IA". 

Essa coordenação pode parecer improvável, tanto devido à aparente animosidade entre Altman e Amodei quanto porque suas empresas estão segundo relatos, preocupadas de que uma pausa coordenada possa levar a escrutínio antitruste. Amodei aludiu a essa preocupação em sua postagem, escrevendo que "por motivos antitruste, é útil para o governo dos EUA mediar ou pelo menos viabilizar essas discussões — eles não precisam participar, mas precisam emitir uma isenção restrita para certos tipos de conversas sobre segurança".

Amodei também reconheceu o espectro da dominância chinesa em IA que é frequentemente levantado como um argumento contra a desaceleração do desenvolvimento. Mas ele disse que se o governo dos EUA e as empresas de tecnologia tomarem medidas como recusar a venda de chips potentes ou equipamentos de fabricação de semicondutores para empresas chinesas, bem como reprimir a destilação de modelos, eles poderiam "desacelerar o progresso da China o suficiente para ampliar significativamente a liderança da América nos próximos 3 a 5 anos".

Por fim, Amodei pediu uma "coordenação global", onde os Estados Unidos e seus aliados "tentem se coordenar com governos autoritários, na medida em que isso seja possível". Amodei disse que isso significaria "cooperação com a China" e admitiu que há "limites rígidos sobre o que pode ser alcançado", mas ainda sugeriu que pode haver oportunidades de acordo, mesmo que seja apenas "proibir certos usos restritos e obviamente perigosos da IA, como usar a IA para a produção de armas biológicas ou permitir que os usuários o façam".

Com a disposição passada de Amodei de reconhecer os perigos potenciais da IA e com a relativa abertura da empresa a certas formas de regulação, alguns defensores da IA já o criticaram como um alarmista cujos comentários alimentaram a reação negativa atual contra a IA. Em resposta, Amodei disse que tentou oferecer uma perspectiva "equilibrada" e argumentou que a reação negativa é “fundamentalmente uma crise de confiança”, à medida que as pessoas se tornaram céticas em relação às empresas de tecnologia, à indústria tecnológica e ao governo.

Críticos da indústria também têm sido céticos sobre esses avisos apocalípticos de IA, sugerindo que eles são uma distração do dano que a tecnologia já está causando.

O jornalista Brian Merchant, por exemplo, escreveu que ainda não viu "uma documentação crível e passo a passo de como exatamente a IA pode passar de melhorar a si mesma de forma recursiva para matar cada ser humano no planeta"; ele também sugeriu que propostas semelhantes às de Amodei "provavelmente só acabariam servindo à Anthropic e à OpenAI; é a captura regulatória em ação".

Em sua nova postagem, Amodei escreveu que continua "a acreditar que a IA pode melhorar enormemente a qualidade da vida humana".

“Meu desejo de alcançar esses benefícios permanece inabalável”, disse ele. “Mas os benefícios só serão alcançados se construirmos a tecnologia da maneira certa e — desde que usemos bem o tempo que ganhamos — vale a pena ter um cuidado excepcionalmente deliberado para acertar.”