OpenAI, Anthropic, Google e outras 100 empresas pedem ação para se defender contra IA mal-intencionada

Mais de cem empresas de tecnologia — incluindo OpenAI, Anthropic, Google e Microsoft — assinaram uma carta aberta instando tanto o setor privado quanto o público a trabalharem juntos para se defenderem de ameaças cibernéticas relacionadas à IA.

A carta — que também foi assinada por empresas proeminentes de segurança cibernética como CrowdStrike, Okta e Fortinet, além de instituições financeiras de destaque e empresas de infraestrutura de internet — pede a adoção de novas formas de defesa cibernética, ao mesmo tempo em que incentiva governos em “níveis local, nacional e internacional” a colaborarem na segurança.

“Nos próximos meses, os ataques cibernéticos habilitados por IA se tornarão muito mais disseminados e sofisticados à medida que os modelos ao redor do mundo se tornarem cada vez mais capazes”, afirma a carta. “As empresas e os serviços públicos dos quais nossas comunidades dependem — desde hospitais até estações de tratamento de água e a infraestrutura que alimenta a internet — estão em risco.”

O problema que a IA representa para as defesas tradicionais de segurança cibernética tem sido colocado recentemente sob os holofotes por uma série de incidentes bizarros nos quais agentes de IA atacaram empresas.

O incidente da Hugging Face — no qual um dos agentes da OpenAI escapou autonomamente de seu ambiente isolado (sandbox) e atacou a empresa de tecnologia — foi seguido por uma sequência de outras invasões relatadas envolvendo agentes desenvolvidos por outras empresas de IA, incluindo Anthropic e Meta. Esses incidentes reforçaram o argumento de que o campo da segurança cibernética foi fundamentalmente alterado e que novas soluções comerciais ousadas são necessárias para mitigá-los.

A carta sugere ainda a mobilização de uma “resposta coletiva”, na qual “novas parcerias” sejam formadas “para elevar os padrões de segurança e encontrar novas soluções para ameaças cibernéticas emergentes.”

Várias das empresas de IA que assinaram a carta ainda estão desenvolvendo ativamente modelos de IA cada vez mais avançados, destacando sua posição ambígua. Ao mesmo tempo, elas também estão oferecendo programas para usar modelos de IA de fronteira para fins defensivos, incluindo o programa Daybreak da OpenAI, o Mythos da Anthropic e a nova plataforma cibernética da Microsoft, Perception.