Alabama inicia investigação sobre invasão do Hugging Face pela OpenAI

O procurador-geral do Alabama anunciou nesta segunda-feira que enviou uma intimação à OpenAI como parte de uma investigação sobre a suposta “falta completa de supervisão e salvaguardas adequadas” da empresa no incidente do Hugging Face. 

A investigação ocorre semanas depois que a OpenAI admitiu que um de seus modelos de segurança cibernética não lançados e livres de salvaguardas havia escapado de um ambiente isolado, conectado-se à internet e invadido a plataforma de conjuntos de dados de IA Hugging Face. Conforme noticiado primeiro pela Reuters, o Hugging Face foi apenas uma de quatro vítimas do que deveria ser “uma avaliação interna” de um modelo com “capacidades cibernéticas máximas”, como definiu a OpenAI.

O comunicado à imprensa anunciando a intimação enviada pelo procurador-geral do estado, Steve Marshall, afirmou que o estado busca entender se a “incapacidade ou falta de vontade da OpenAI em garantir a segurança de seus produtos” violou as leis de proteção ao consumidor do estado.

Contatado pelo TechCrunch para comentar, o porta-voz da OpenAI, Nate Evans, forneceu a seguinte declaração: “O incidente do Hugging Face marcou um momento importante para a segurança da IA e estamos conduzindo uma revisão minuciosa juntamente com consultores externos. Assim que a revisão for concluída, compartilharemos um relatório técnico com as autoridades governamentais relevantes e publicaremos nossas descobertas publicamente.”

No início deste mês, Marshall, junto com os procuradores-gerais de outros 14 estados, incluindo Flórida, Missouri, Pensilvânia e Texas, enviou uma carta ao CEO da OpenAI, Sam Altman, solicitando que ele e sua empresa preservassem todos os registros relacionados ao incidente do Hugging Face. A carta também pedia que a OpenAI “cessasse e desistisse imediatamente” de quaisquer avaliações internas de segurança cibernética.

Na sequência do incidente do Hugging Face e de vários outros incidentes divulgados pela Anthropic, o Instituto de Segurança de IA do Reino Unido, a Meta e trabalhadores de empresas de IA — incluindo executivos e líderes técnicos — assinaram uma carta aberta chamada “Pacing the Frontier”, que pedia o desenvolvimento de capacidades de IA de forma lenta e mais responsável. A carta também pedia que o governo dos EUA apoiasse um “esforço internacional para desenvolver as ferramentas técnicas e de governança necessárias para desacelerar deliberadamente a fronteira do desenvolvimento automatizado de IA.”

Atualizado com um comentário da OpenAI.