Anthropic defende projeto de lei de segurança de IA que pode bloquear um modelo se mais de 50 pessoas puderem ser mortas

No último ano, cresceram as preocupações com os perigos potenciais representados pela inteligência artificial, e houve intensos debates sobre o caminho adequado para a segurança da IA. Agora, a Anthropic parece ter apresentado sua própria visão de como o governo pode regular sua indústria.

O Politico noticiou recentemente que o laboratório de IA tem circulado uma nova minuta de projeto de lei sobre segurança de IA que espera que o Congresso possa considerar adotar. A legislação estabelece certos cenários nos quais a liberação de um modelo de IA pode ter sua distribuição bloqueada.

Esses cenários envolvem um “risco previsível e iminente” — um em que mais de 50 pessoas correm o risco de morrer ou que possa resultar em mais de um bilhão de dólares em danos materiais, escreve o Politico. O risco catastrófico em questão deve “decorrer da criação ou liberação de uma arma biológica, da fuga do modelo dos controles de seu desenvolvedor ou de um ciberataque”, observa o veículo.

As métricas apresentadas aqui — 50 pessoas e um bilhão de dólares — são semelhantes às de uma legislação da Califórnia que foi recentemente promulgada, o Projeto de Lei do Senado 53, que de forma semelhante definiu esses cenários como equivalentes a um “risco catastrófico.”

O projeto de lei da Anthropic sugere que a análise do potencial de desastre de um modelo pode ser realizada por meio do uso de “avaliadores independentes” que seriam registrados no Departamento de Comércio dos EUA. Esses avaliadores poderiam potencialmente ser pagos pelos próprios laboratórios de IA — desde que o “pagamento não seja contingente aos resultados das avaliações”, escreve o Politico.

Não está claro como esse sistema proposto garantiria que os pagamentos não influenciassem a avaliação. Demis Hassabis, presidente da DeepMind, sugeriu alguns meses atrás que um órgão regulador de IA auto-regulado deveria imitar a Autoridade Reguladora da Indústria Financeira (FINRA) do setor financeiro.

Na minuta do projeto de lei da Anthropic, quando os avaliadores determinam que existe um risco catastrófico iminente, eles teriam 72 horas para entrar em contato com o Departamento de Comércio a esse respeito. O Departamento de Comércio teria então que solicitar a um juiz em Washington D.C. que interrompesse o lançamento do modelo. A legislação proibiria expressamente qualquer agência federal de ter a discrição de interromper a distribuição do modelo por conta própria, escreve o Politico.

A Anthropic não respondeu imediatamente ao pedido de comentário do TechCrunch, mas um porta-voz confirmou a minuta do projeto de lei ao Politico. “Este projeto de lei representa as propostas delineadas no Framework de IA Avançada da Anthropic, que temos defendido junto aos legisladores federais e estaduais desde junho”, disse o porta-voz.

Os riscos teóricos apresentados na minuta de política estão um pouco distantes dos tipos de incidentes que têm estado no topo das preocupações da indústria de tecnologia ultimamente. Embora haja pessoas alertando sobre o potencial de morte humana, a principal preocupação tem sido em grande parte a ameaça de hacking agêntico. Uma série de incidentes em que programas de IA aparentemente desobedeceram aos seus operadores humanos e hackearam sites na internet aberta tem gerado preocupação de que os modelos possam estar carecendo de controles de segurança adequados.

Em um esforço para apresentar uma solução para o espetáculo de crise que os próprios laboratórios ajudaram a criar, empresas como a Anthropic ofereceram suas próprias soluções preferidas.

De fato, apesar dos alertas perpétuos dos laboratórios de que a tecnologia que estão vendendo pode resultar no fim da civilização humana, eles têm sido amplamente resistentes à supervisão governamental obrigatória. Em vez disso, eles sugeriram um sistema voluntário de avaliadores embutidos — observadores terceirizados supostamente “neutros” que são colocados dentro das organizações de IA para que possam monitorar os modelos em busca de sinais potenciais de risco ou abuso.

Ainda assim, a mera sugestão de legislação da Anthropic parece ir um pouco além das propostas regulatórias de outros atores da indústria, incluindo a Nvidia, cujo CEO Jensen Huang argumentou recentemente que a indústria de IA não precisa de nenhuma lei nova.