Garry Tan, da Y Combinator, quer que os laboratórios de IA de pesos abertos dos EUA também "distilem" modelos de fronteira

Quando se trata de laboratórios de IA chineses usando técnicas de destilação para extrair conhecimento de criadores de modelos de fronteira, Garry Tan, CEO da Y Combinator, espera que os reguladores fiquem fora disso. Na verdade, ele acha que os laboratórios de IA dos EUA deveriam talvez jogar o mesmo jogo.

“Eu não faria nada”, ele disse à CNBC em uma entrevista no início desta semana. “Poderíamos argumentar que deveria haver um regime de destilação americano.”

Ele explicou ao TechCrunch que isso significa que ele quer que laboratórios de IA americanos menores e de pesos abertos usem o mesmo tipo de técnica de treinamento em laboratórios de IA de fronteira americanos, dando aos EUA um conjunto mais robusto de opções de pesos abertos que não sejam chinesas.

A destilação ocorre quando um criador de modelo faz prompts extensivos a outro modelo para aprender como ele funciona e raciocina. Ela é comumente, e legitimamente, usada por laboratórios de IA para ajudar a treinar novos modelos.

A Anthropic lançou seu segundo relatório esta semana alegando que laboratórios chineses estão envolvidos em “ataques de destilação ilícitos”, escondendo suas identidades para destilar sem permissão e contando com fraudes e credenciais roubadas para fazer isso. O CEO da Anthropic, Dario Amodei, havia apelado publicamente anteriormente aos reguladores dos EUA para reprimirem a destilação.

É notável que o comandante da prestigiosa e prolífica aceleradora de startups do Vale do Silício não concorde.

Para ser claro, Tan não está defendendo que laboratórios de IA americanos usem credenciais roubadas para destilar. Ele quer que eles tenham liberdade para entrar pela porta da frente. Na verdade, seu argumento é duplo. Ele sente que é um excesso os laboratórios de IA ditarem o que seus clientes podem fazer com as informações que seus modelos compartilham com eles.

Ele também observa que os laboratórios de IA proprietários não pediram permissão quando sugaram o máximo de conhecimento humano que puderam para treinar seus modelos. Eles notoriamente ingeriram bastante material protegido por direitos autorais sem a permissão desses detentores de propriedade intelectual.

“Controlar o que usuários e clientes fazem com chamadas de API para modelos de peso fechado parece restritivo, e há um papel que o governo pode desempenhar aqui para normalizar o fato de que o acesso à inteligência que foi treinada em dados de amplo acesso público também deve ser mais uma forma de bem público do que algo trancado atrás de termos de serviço restritivos”, disse ele ao TechCrunch quando questionado sobre o motivo pelo qual os laboratórios americanos também deveriam ter liberdade para destilar.

Tan, que é ele próprio um usuário de IA tão ávido que uma vez se descreveu como tendo psicose cibernética, quer ver um equilíbrio entre laboratórios de IA de pesos abertos e laboratórios de fronteira.

“Eles estão na fronteira e a estão impulsionando. Queremos que isso seja financiável e seja um ótimo modelo de negócios contínuo”, disse ele à CNBC. “Você quer modelos de pesos abertos para dar às pessoas liberdade e acesso.”

Para ele, o verdadeiro cenário apocalíptico da IA é que todo o imenso poder da IA de fronteira acabe nas mãos de um único provedor proprietário e poderoso. “O cenário de pesadelo, o cenário apocalíptico para a IA é que haja apenas uma empresa”, disse ele. “Ela tem o melhor acesso a capital. Ela tem os melhores pesquisadores de IA. Ela dispara na frente e de repente há uma empresa que é monolítica. E isso seria ruim.”