Who’s legally to blame for Anthropic and OpenAI’s autonomous AI hacks? It’s complicated
Agentes de IA autônomos podem ser processados ou punidos por invasão cibernética (hacking)? Isso não é mais uma questão de filme de ficção científica. É um problema com o qual advogados e juízes humanos podem ter que lidar em breve.
Sob as leis de invasão atuais nos EUA, um humano pode enfrentar acusações criminais por invadir o computador de outra pessoa sem permissão. Mas quando um agente de IA invade autonomamente os computadores de uma empresa, determinar quem é o responsável é muito mais nebuloso.
As admissões surpreendentes da OpenAI e da Anthropic de que seus modelos de IA não lançados invadiram autonomamente várias empresas revolucionaram nossa compreensão das leis de invasão de computadores da América, gerando discussões sobre se as empresas podem enfrentar represálias legais.
Para recapitular: em junho, a OpenAI admitiu que um de seus modelos de IA não lançados escapou de sua contenção — por assim dizer — para a internet, permitindo que ele invadisse a plataforma de conjuntos de dados de IA Hugging Face. A Anthropic
Embora ambas as empresas tenham descrito como seus modelos de IA obtiveram acesso não autorizado a outras empresas durante testes internos que deram errado, a clara falta de envolvimento humano direto no momento das invasões faz toda a diferença — legalmente falando, pelo menos.
As invasões também levantam novas questões sobre quais responsabilidades e consequências outros fabricantes de IA podem enfrentar se seus próprios modelos forem mal utilizados para invadir outras empresas.
O TechCrunch conversou com advogados especializados em leis de computadores e invasões para entender quais consequências a OpenAI e a Anthropic podem enfrentar. As repercussões potenciais variam desde acusações federais de invasão até litígios civis movidos pelas empresas que foram invadidas.
Um advogado chamou isso de “território desconhecido”, enquanto outros encontraram poucos precedentes legais para trabalhar, sugerindo que provavelmente caberá aos tribunais resolver a questão. As empresas vítimas provavelmente teriam que desenvolver argumentos jurídicos inovadores com base em leis escritas décadas antes da chegada dos grandes modelos de linguagem (LLMs).
Até o momento da redação deste artigo, a Anthropic não divulgou quais três empresas seu LLM invadou, e nenhuma das vítimas se identificou publicamente. Não sabemos se elas estão considerando medidas legais. Em uma entrevista à CNN, o diretor-executivo da Hugging Face, Clem Delangue, disse que não quer processar a OpenAI. Mas ele argumentou que as empresas devem ser responsabilizadas.
Delangue disse: “Temos que garantir que as estruturas legais mantenham esses eventos realmente ilegais” e responsabilizar as empresas quando elas cometerem erros. “Caso contrário, vamos acabar em um mundo muito diferente.”
É improvável que essas invasões sejam as últimas. Quais são os resultados prováveis e como as consequências podem se desenrolar?
Os EUA não têm uma lei federal que cubra a responsabilidade por danos causados por IA, como ataques cibernéticos, portanto, qualquer caso legal teria que se basear em leis federais ou estaduais existentes. A Lei de Fraude e Abuso de Computadores (CFAA), promulgada em 1986 e criticada praticamente desde então, é o principal estatuto que cobre crimes de invasão de computadores.
Um dos principais conceitos da CFAA é a intenção de invadir um computador sem permissão. Se um hacker acessar conscientemente um computador sem “autorização” do proprietário, isso é quase certamente um crime.
O problema com as invasões da OpenAI e da Anthropic é que o invasor não era um humano, mas um LLM.
Os agentes de IA podem ser considerados pessoas para fins de estabelecimento de intenção? De acordo com Ahmed Ghappour, advogado especialista em segurança cibernética e IA com anos de experiência em litígios de casos de invasão e fraude computacional, a resposta é não. Os agentes de IA não são como funcionários de empresas, portanto não podem ser processados, porque uma vítima provavelmente falharia em argumentar que os LLMs a invadiram intencionalmente.
Andrew Crocker, diretor de litígios de vigilância da organização sem fins lucrativos Electronic Frontier Foundation, disse ao TechCrunch que era cético quanto à possibilidade de provar que um agente de IA teve intenção ao realizar uma invasão.
O Departamento de Justiça poderia, teoricamente, apresentar acusações criminais sob a CFAA, mas um ex-litigante especializado em direito da computação também expressou dúvidas.
Os promotores poderiam ter um caso mais fácil se algum dos ataques cibernéticos tivesse visado infraestruturas críticas, o que teria causado maior disrupção no mundo real e danos mais tangíveis do que copiar dados do banco de dados interno de uma empresa.
Também é plausível que, se os ataques fossem realizados por um fabricante de modelos de IA chinês, por exemplo, o Departamento de Justiça teria maior apetite para apresentar acusações sob a CFAA do que contra empresas de IA em seu próprio quintal.
O Congresso alterou a CFAA ao longo dos anos para permitir que as vítimas processem hackers para responsabilizá-los e recuperar danos por meio de ações civis.
O argumento central que as vítimas poderiam apresentar, disse Ghappour ao TechCrunch, é que a OpenAI e a Anthropic (e potencialmente as empresas que ajudaram a realizar as avaliações) foram negligentes na forma como configuraram e executaram os testes. O argumento depende de saber se as empresas falharam em implementar salvaguardas adequadas para impedir que os agentes de IA chegassem à internet; falharam em limitar quais alvos eles podiam perseguir; e não monitoraram adequadamente o que os agentes estavam fazendo.
Para argumentar isso, uma empresa vítima teria que mostrar que sofreu danos por causa dessa negligência, como a destruição de dados causada por uma invasão. Alguns comentaristas jurídicos também argumentaram que provar isso pode ser difícil.
No caso da Anthropic, sua falha em monitorar e parar o que seu LLM estava fazendo é particularmente flagrante porque a empresa não descobriu as três violações por meses, e só conseguiu fazê-lo após iniciar uma investigação após a notícia de que o agente de IA da OpenAI havia invadido o Hugging Face.
Se as vítimas argumentassem negligência, a intenção não importa tanto.
“O modelo é a ferramenta da empresa”, disse Ghappour. “Você não pode implantar algo capaz de invadir sistemas e depois renegar para onde ele vai”, acrescentou ele, explicando que a autonomia do modelo é o que causa danos, e não deve ser um escudo contra a responsabilidade.
O que poderia ser pior para a OpenAI e a Anthropic, de acordo com Ghappour, é que ambas as empresas admitiram que construíram salvaguardas para limitar as habilidades de invasão de seus modelos. Essas salvaguardas são rigorosas o suficiente para que pesquisadores de segurança cibernética defensivos e ofensivos tenham reclamado delas por meses. Desligar intencionalmente essas proteções durante esses testes pode reforçar o argumento de negligência.
Ghappour está tão confiante nesses argumentos que, se estivesse representando qualquer uma das vítimas nesses casos, ele disse que seria uma decisão óbvia (“no brainer”) processar a OpenAI ou a Anthropic. No mínimo, ele explicou, ele enviaria cartas exigindo que as empresas de IA preservessem e compartilhassem todos os seus registros e documentos internos sobre as invasões, como relatórios de resposta a incidentes, e quantificassem os custos incorridos devido às violações.
Então, se as negociações com as gigantes da IA falhassem, ele entraria com uma ação civil com base na CFAA, argumentando que as empresas de IA foram negligentes e violaram a privacidade e a confidencialidade.
Por enquanto, é um jogo de nervos.
Se uma das empresas invadidas entrar com uma ação civil, veremos para onde o caso legal — e a lei — nos levam. Se os promotores decidirem apresentar acusações criminais, por mais improvável que isso possa parecer, o resultado pode ter consequências profundas e um potencial efeito dissuasor sobre a pesquisa de segurança e o desenvolvimento de IA de forma mais ampla.
Sem leis federais ou nacionais de responsabilidade de IA, qualquer pessoa que entrasse com uma ação teria que apresentar um argumento totalmente inovador com base em estatutos existentes. Caberia, em última análise, a um juiz ou a um júri decidir se uma empresa de IA violou a lei.
No lugar de uma lei federal, alguns estados como Califórnia, Nova York e Rhode Island estão lançando leis com o objetivo de consagrar um princípio simples: se um sistema ou agente de IA fizer algo pelo qual um humano possa ser responsabilizado, então as empresas que criaram o sistema de IA devem ser responsabilizadas. Essas leis não se concentram especificamente em invasões, mas em conceitos mais amplos de responsabilidade e segurança em várias situações.
Quanto a quem é oculpado pelo ataque cibernético de um modelo de IA? Moralmente falando, a responsabilidade recai sobre os executivos que dirigem as empresas. Legalmente falando, no entanto? Teremos que esperar até que alguém processe para descobrir.
