A Nvidia não para: uma semana após a formação de grupo da indústria de IA aberta, já está mostrando progresso

A Open Secure AI Alliance (OSAA), um grupo da indústria liderado pela Nvidia criado há uma semana e que já cresceu para mais de 120 empresas, desenvolveu um grupo de trabalho com um nome fofo, o Shared AI Findings Exchange, ou SAFE. O grupo já está apresentando propostas para consulta pública, e a Linux Foundation, membro do grupo, está gerenciando as propostas.

O grupo as desenvolveu enquanto seus membros se reuniam no epicentro do mundo da cibersegurança, a conferência Black Hat, que acontece esta semana em Las Vegas.

Por enquanto, as diretrizes não são nada revolucionárias. As propostas cobrem áreas como a forma de relatar confidencialmente incidentes de cibersegurança em IA, alertar os afetados e, em seguida, realizar análises sem atribuição de culpa para que todos possam aprender com eles.

Ao mesmo tempo, os membros da OSAA também estão contribuindo e catalogando pedaços de sua tecnologia de código aberto que podem ser úteis. Isso pode, como é comum nesses tipos de organizações da indústria, eventualmente se fundir em um meio de código aberto para que uma empresa proteja seus agentes de IA ou se defenda contra atacantes de IA desonestos, como o modelo da OpenAI que se infiltrou no Hugging Face. (O Hugging Face também é membro deste grupo.)

Por exemplo, a Nvidia observou que oferece uma família inteira de modelos abertos, bem como um scanner de vulnerabilidades de LLM de código aberto chamado Garak; a Okta está trabalhando em tecnologia de identidade de agentes; a Red Hat está trabalhando em governança de agentes; e a Amazon contribuiu tanto com uma ferramenta de construção de agentes abertos, Strands Agents, quanto com uma linguagem de autorização, Cedar. E há muitos outros exemplos.

O grupo agora inclui uma série de grandes nomes, incluindo Adobe, BlackRock, Cisco, Intel, Microsoft e Visa, mas há algumas ausências notáveis, como Anthropic, OpenAI e Google.

Curiosamente, tanto a OpenAI quanto o Google assinaram a carta aberta original que deu origem a este grupo. A carta, publicada na semana passada, instou a Casa Blanca a apoiar os esforços de IA de código aberto, e não a sufocá-los. Ela foi defendida pela Nvidia e assinada por mais de 200 empresas de tecnologia.

Embora a indiferença da Anthropic em relação à carta e ao grupo da indústria até o momento não seja uma surpresa, tanto a OpenAI quanto o Google lançaram seus próprios modelos de pesos abertos. O Google também é amplamente conhecido como um grande apoiador de código aberto. Veremos se eles se juntam à medida que este grupo ganha momentum.

Enquanto isso, o grupo está operando na velocidade da IA. Passou apenas algumas semanas desde que a notícia estourou de que o governo Trump estava considerando banir modelos chineses de pesos abertos, causando consternação na indústria o que resultou na carta aberta.

Independentemente do que aconteça no final com os modelos chineses de pesos abertos nos EUA, a ação rápida deste grupo de peso parece ser algo positivo para o ecossistema de IA aberta dos EUA. Alguns no ecossistema, como o cofundador e diretor de tecnologia do laboratório de IA de pesos abertos dos EUA Arcee, dizem que essa é, em última análise, a maneira de superar qualquer ameaça — real ou imaginária — que os laboratórios de IA chineses representam para os Estados Unidos.

“A abertura pode ser um dos caminhos mais importantes para a segurança da IA”, escreveu este grupo da indústria em sua carta. Parece que eles estão prontos para colocar imediatamente seus esforços — e sua tecnologia — em prática.