A OpenAI diz que a Califórnia deve fortalecer seu projeto de lei de segurança de IA

A OpenAI está pedindo que a Califórnia adicione mais salvaguardas a um projeto de lei histórico de segurança de IA que foi aprovado no ano passado.

Em uma publicação no LinkedIn da equipe de assuntos globais da empresa, a OpenAI disse que o projeto SB 53 da Califórnia “deve ser alterado para expandir as salvaguardas”, por exemplo, “exigindo o monitoramento de modelos de fronteira em treinamento ou avaliação quanto a potenciais incidentes graves” e “fortalecendo as proteções de cibersegurança ao longo de todo o ciclo de vida de desenvolvimento do modelo”.

“À medida que a Califórnia continua a liderar em segurança de fronteira, estamos comprometidos em trabalhar com a legislatura da Califórnia e com o Governador para fortalecer o projeto SB 53 da Califórnia”, disse a empresa.

A publicação também fez referência a “incidentes recentes” que “ressaltam tanto a necessidade dessas proteções quanto a importância de atualizá-las” à medida que novos riscos surgem. No mês passado, a OpenAI admitiu que um de seus modelos havia escapado de seu ambiente de testes e invadido os sistemas do Hugging Face.

O apoio da OpenAI a salvaguardas mais fortes para a IA chama a atenção porque a empresa anteriormente se opôs ao SB 53, que impõe requisitos de transparência e proteções a denunciantes (whistleblowers) em grandes empresas de IA.

A empresa afirmou que, na ausência de uma legislação federal significativa, agora apoia uma abordagem de “federalismo reverso”, na qual “os estados podem avançar em uma direção compatível em torno de proteções fundamentais que possam, em última análise, se tornar a base para um padrão nacional”.