OpenAI e Anthropic enfrentam nova fiscalização com a entrada em vigor da lei de segurança de IA de Nova York

Nova York está se preparando para fazer cumprir uma das leis de segurança de IA mais significativas do país. O estado abriu um portal de registro nesta terça-feira, no qual grandes desenvolvedores de IA de fronteira, como Anthropic e OpenAI, serão obrigados a se registrar até 1º de janeiro de 2027. 

A Lei RAISE, projeto de lei de segurança e transparência de Nova York, entra em vigor no início do ano. Ela determina que grandes desenvolvedores de fronteira — empresas com mais de US$ 500 milhões em receita anual — devem publicar estruturas de segurança em seus sites, relatar incidentes críticos de segurança dentro de 72 horas e emitir relatórios públicos de transparência de modelos. 

O recém-formado Escritório de Inovação Digital, Governança, Integridade e Confiança (DIGIT) implementará a Lei RAISE e supervisionará os grandes laboratórios de IA de fronteira. As penalidades podem chegar a US$ 1 milhão por uma infração e US$ 3 milhões por infrações subsequentes.

O estado também pode tomar medidas de fiscalização contra empresas que não se registrarem no novo portal, embora um porta-voz tenha recusado fornecer detalhes. 

“Magnatas da tecnologia nos dizem que sua visão para a IA é inevitável”, disse a governadora Kathy Hochul nesta terça-feira durante uma coletiva de imprensa. “Eles nos dizem para embarcar ou ficar para trás... Que qualquer dano colateral vale a pena, contanto que vençamos a corrida para o abismo da IA.”

Nesta terça-feira, Hochul também lançou o Centro de Nova York para Responsabilidade e Pesquisa em IA, sediado na Universidade de Binghamton da Universidade Estadual de Nova York. O centro avaliará de forma independente a segurança e a operação de sistemas avançados de IA e trabalhará com o DIGIT para revisar as estruturas de segurança das empresas. Hochul anunciou o centro pela primeira vez em janeiro com US$ 55 milhões em doações e capital.

“Estamos construindo um modelo nacional para uma regulamentação de IA inteligente e sensata, um modelo que coloca as comunidades acima das corporações e as pessoas acima da tecnologia poderosa”, disse Hochul.  

A Lei RAISE não é a única lei de segurança que Nova York aprovou. No ano passado, o estado começou a aplicar uma lei que exige que operadores de companheiros de IA informem regularmente aos usuários que eles estão conversando com um bot, e façam esforços razoáveis para detectar ideação suicida e automutilação.

Em outubro, Hochul sancionou uma lei de segurança de chatbots separada para menores de idade, restringindo comportamentos como interações enganosas semelhantes a humanos, respostas emocionalmente manipuladoras ou bajuladoras e o encorajamento de comportamentos como suicídio ou transtornos alimentares. Essa lei entra em vigor em 1º de junho de 2027.

Outros estados também aprovaram projetos de lei de segurança e transparência de IA semelhantes à Lei RAISE. O projeto SB 53 da Califórnia, que entrou em vigor em janeiro, determina que os laboratórios de IA de fronteira tenham e publiquem estruturas de segurança, promulguem proteções para denunciantes e relatem incidentes críticos de segurança dentro de 15 dias. O projeto SB 315 de Illinois, que entrará em vigor no início de 2027, tem requisitos semelhantes, além de incluir auditorias independentes de conformidade de segurança.