OpenAI, Anthropic e Google estão em negociações sobre a segurança da IA há semanas
Chris Lehane, chefe de política global da OpenAI, disse a jornalistas na terça-feira que a empresa tem trabalhado com as rivais Anthropic e Google DeepMind em segurança de IA há semanas, conforme noticiado primeiramente pela Bloomberg. Segundo relatos, Lehane está em Washington para trabalhar com legisladores dos EUA no endereçamento de riscos catastróficos associados à IA.
A revelação surge na sequência do ensaio do CEO da Anthropic, Dario Amodei, publicado no sábado, que pedia que a indústria trabalhasse em conjunto para desacelerar o ritmo da IA de fronteira e evitar riscos catastróficos. Lideranças de IA de toda a indústria, incluindo Sam Altman, da OpenAI, Demis Hassabis, do Google, e Elon Musk, da SpaceXAI, apoiaram a carta e o chamado à ação de Amodei, com Altman afirmando que a OpenAI se juntaria à Anthropic na integração de avaliadores terceirizados à empresa para monitorar a segurança.
Na terça-feira, Lehane admitiu que as três empresas estão em negociações há várias semanas a respeito da segurança de IA. Alguns, incluindo Altman, observaram que tais conversas poderiam colocar as empresas em risco de violar a lei antitruste se for constatado que a coordenação suprime a concorrência. O ensaio de Amodei propôs uma isenção governamental restrita que permitisse tal coordenação de segurança, mas Lehane teria dito que as empresas não precisam de uma.
A notícia confirma relatos anteriores e sugere que as empresas vinham trabalhando juntas. Em uma entrevista à Fortune no final da semana passada, Altman deu a entender que vinha mantendo discussões privadas com outros líderes de IA. Esta semana, The Information relatou que as três empresas têm trabalhado juntas para criar um órgão de padronização para a indústria de IA — algo que, segundo relatos, Altman disse a funcionários que precisaria acontecer sem o apoio do governo dos EUA.
Hassabis pediu em julho que os EUA estabelecessem um novo órgão de padronização para atuar como cão de guarda da IA, com poder para examinar os modelos mais avançados do mundo e coordenar desacelerações em toda a indústria caso os perigos aumentassem.
O presidente Trump, por sua vez, descartou as preocupações com a segurança classificando-as como uma farsa e resistiu à necessidade de regulamentações mais rígidas, dizendo que qualquer desaceleração daria vantagem à China na corrida. Seu principal conselheiro de IA, David Sacks — um investidor de longa data com interesse pessoal em grande parte da indústria — ecoou isso, dizendo que os temores de risco existencial decorrente da IA eram exagerados.
Na mesma reunião de terça-feira, Lehane disse que a OpenAI apoia uma disposição na Lei FRONTIER que obrigaria os principais laboratórios de fronteira a permitir "organizações de verificação independente" em suas empresas para garantir que os modelos sejam desenvolvidos com segurança.
O TechCrunch entrou em contato com a Anthropic, o Google e a OpenAI para obter comentários.
