Satya Nadella emitiu um aviso chocante para empresas que usam IA

De todos os debates acalorados sobre os potenciais aspectos negativos da IA, há uma preocupação que está causando mais inquietação entre os entusiastas de IA no Vale do Silício. O medo deles é que os gigantescos laboratórios de IA que vendem modelos proprietários estejam, de alguma forma, agindo como cavalos de Troia.

A preocupação é que, à medida que startups e empresas usam modelos de IA de laboratórios como OpenAI e Anthropic, os laboratórios obtêm acesso cada vez maior às informações comerciais mais confidenciais dessas empresas. Os criadores de modelos podem então usar esse conhecimento para si mesmos, tornando-se potencialmente concorrentes de seus próprios clientes. Aqueles que emitem tais avisos vão desde capitalistas de risco como Jason Calacanis até o CEO da Palantir, Alex Karp.

Agora, em uma surpreendente postagem de blog publicada no domingo, o CEO da Microsoft, Satya Nadella, juntou-se a esse grupo. Nadella alerta que os usuários de IA (os “compradores”, como ele os chama) estão pagando duas vezes. Eles gastam conscientemente com o uso de tokens de IA, mas também, sem perceber, entregam dados valiosos no processo.

“Você essencialmente paga pela inteligência duas vezes, uma vez com dinheiro e outra com algo ainda mais valioso: o conhecimento proprietário que você deve revelar para tornar essa inteligência útil. Quanto melhor você quiser que o modelo seja, mais desse conhecimento você terá que fornecer a ele!”, ele escreve.

Mais perigosamente, as empresas estão literalmente ensinando aos modelos as nuances de seus negócios, argumenta ele.

“Os modelos aprendem com o 'escape', os prompts que as pessoas escrevem, as ferramentas que os agentes usam e, especialmente, as correções que as pessoas fazem quando o modelo está errado. Cada correção é destilada em know-how institucional”, escreve ele.

Este é “o tipo de conhecimento que um concorrente nunca poderia comprar” e, no entanto, as empresas estão entregando-o.

Nadella argumenta que, se as empresas de IA podem raspar livremente a internet para treinar seus modelos, é mais do que justo que as empresas possam estudar — ou “destilar” — esses modelos em troca. “Destilação” é a prática de usar as próprias saídas de um modelo para entender como ele funciona e treinar um modelo novo, geralmente mais barato, com base nesses insights. Em fevereiro, a Anthropic acusou modelos de código aberto chineses de enviar milhões de prompts para o Claude como forma de melhorar seus próprios modelos, e instou o governo dos EUA a reprimir os controles de exportação.

O ponto de Nadella é que os criadores de modelos não podem ter as duas coisas. É hipócrita da parte deles treinar livremente com os dados do mundo, enquanto restringem outros de fazer o mesmo com seus modelos.

“Embora a grande inovação decorrente do fato de os provedores de modelos terem direitos de uso justo para treinar modelos com dados públicos seja necessária, acho irônico que o status quo seja depois virar a mesa e impor termos restritivos à destilação”, escreve Nadella.

Nadella está particularmente preocupado quando os criadores de modelos “reservam o direito de aprender com os dados de uso e interação do cliente”.

A solução de Nadella é o tipo de coisa que o CEO de um provedor de nuvem gigante sugeriria. Ele quer que as empresas “retenham a propriedade” de seus dados, incluindo prompts, feedback, etc. Portanto, ele os está instando a construir seus próprios “ambientes de aprendizado proprietários” na nuvem (onde seus dados provavelmente já estão armazenados de qualquer maneira e, convenientemente, poderia significar a nuvem da Microsoft, o Azure). Ele também quer que as empresas construam o que chama de “camadas de orquestração” — essencialmente, uma maneira de alternar facilmente entre modelos de IA de diferentes provedores, em vez de ficarem presas a apenas um. Ferramentas como “gateways” de IA que permitem às empresas fazer exatamente isso tornaram-se cada vez mais populares.

Embora Nadella nunca use as palavras “código aberto” como o método para reter a propriedade, este é um subtexto óbvio. No entanto, há outro subtexto.

Grandes empresas, muitas das quais ainda mantêm alguns de seus próprios data centers além de usar a nuvem, já estão migrando para modelos de código aberto instalados em suas próprias dependências (“on-prem”, no jargão da indústria). Idit Levine, fundadora e CEO da Solo.io — que cria software de rede e segurança para ajudar empresas a gerenciar sistemas de IA —, diz que está vendo exatamente essa mudança acontecer com seus próprios clientes. Depois de experimentar criadores de modelos proprietários, eles começam a se perguntar: “Posso pegar um modelo de código aberto e executá-lo internamente? Ele fará quase 90% do que o modelo grande está fazendo. Custará muito menos”, diz ela ao TechCrunch. “Eles entendem isso e podem controlá-lo.”

A tecnologia da Solo.io foi selecionada no ano passado para ser a tecnologia que impulsiona o projeto Agentgateway da Linux Foundation. Sua empresa conta com empresas como T-Mobile, ADP e SAP entre seus clientes. Ela vê as empresas instalando cada vez mais modelos de código aberto no local e enxerga isso como a próxima grande onda no uso de IA empresarial.

Ela não está sozinha. A Vercel (mais conhecida como uma plataforma para criação e hospedagem de sites, que recentemente adicionou ferramentas de alternância de modelos de IA) e o OpenRouter (uma empresa que ajuda desenvolvedores a rotear solicitações entre diferentes modelos de IA) estão vendo um aumento no tráfego para modelos de código aberto. De fato, os modelos abertos representaram 29% de todo o tráfego roteado através do gateway da Vercel no mês passado.

Com o CEO da Microsoft, uma empresa que investiu tanto na OpenAI quanto na Anthropic, agora instando abertamente as empresas a desconfiarem do uso de modelos proprietários, apostamos que essa tendência continuará a crescer. “Ao consumir inteligência, você está criando inteligência. E o que você cria deve pertencer a você”, escreve Nadella.