OpenAI lança o Astra, seu novo modelo poderoso (e controverso)
A OpenAI lançou o Astra na quinta-feira, seu modelo de IA mais recente e — de acordo com a empresa — o mais poderoso e capaz até o momento.
A OpenAI afirma que o Astra representa “uma nova fronteira no uso de computadores e navegadores” e que lida com tarefas com “velocidade, precisão e segurança” incomparáveis.
O modelo está sendo disponibilizado nesta quinta-feira para os clientes da OpenAI que usam o Daybreak, seu programa de cibersegurança. Ao longo da próxima semana, ele também ficará disponível por meio dos planos pagos da OpenAI — incluindo as contas Pro, Plus, Enterprise e Business — bem como através de sua API.
Em uma chamada com jornalistas na quinta-feira, o presidente da OpenAI, Greg Brockman, disse que o Astra era o modelo “mais inteligente da empresa e, o que também é muito importante, o mais alinhado até agora”. Ele acrescentou que o modelo “reúne anos de nossa pesquisa e grandes apostas, com cada avanço construído sobre o anterior” e que ele representa uma “mudança real no tipo de trabalho que as pessoas podem delegar à IA e em como ela pode capacitá-las”.
Muito tem se falado sobre as capacidades cibernéticas do Astra. A OpenAI publicou um blog no início desta semana no qual discutiu as novas capacidades do modelo, bem como novas salvaguardas que foram instituídas para torná-lo uma experiência mais segura para os usuários. A empresa disse na quinta-feira que testou o Astra em uma variedade de benchmarks de segurança para garantir suas capacidades, e que “sua capacidade de identificar e desenvolver explorações de dia zero pode ajudar os defensores a encontrar e corrigir vulnerabilidades”.
O foco da empresa no alinhamento — ou seja, a tendência de um modelo de fazer o que o usuário deseja ou o que está em seus melhores interesses — não deixa de parecer uma resposta à recente violação do Hugging Face, na qual um agente da OpenAI escapou de seu ambiente de teste isolado (sandbox) e hackeou várias empresas (um exemplo muito flagrante de desalinhamento).
A OpenAI também se gabou das habilidades de programação do Astra, afirmando que ele é o “melhor modelo para engenharia de software até o momento”. Para respaldar essa afirmação, a empresa fornece resultados de uma variedade de testes de benchmark relacionados à cibernética. Esses testes parecem mostrar que o Astra pontua mais alto do que outros modelos existentes — incluindo o próprio Sol da OpenAI e o Fable da Anthropic — quando se trata de atividades como encontrar bugs, executar tarefas de terminal e responder a consultas sobre bases de código.
O Astra também é possivelmente o modelo mais controverso da OpenAI até o momento devido ao uso de uma técnica de raciocínio específica conhecida como recorrência opaca. Sabe-se que essa técnica obscurece um processo importante de monitoramento de modelos conhecido como cadeia de pensamento (chain of thought), que permite aos pesquisadores auditar como e por que um modelo de IA tomou as decisões que tomou.
A OpenAI minimizou o grau em que o Astra se envolve em recorrência opaca — e, na chamada, o cientista-chefe Jakub Pachocki parecia enquadrar um certo nível de opacidade como um resultado natural da evolução do modelo. Ele afirmou que monitorar o processo de raciocínio de um modelo era uma forma crítica de supervisão, mas que “à medida que as capacidades dos modelos aumentam, a capacidade de monitoramento está se tornando mais desafiadora”.
Ele acrescentou mais tarde que um motivo potencial para isso era que “modelos mais capazes podem realizar tarefas mais difíceis usando menos tokens de linguagem” ou “nenhum token de linguagem”, o que, segundo ele, reduz a capacidade de monitorar essas tarefas específicas.
Um repórter na chamada quis saber se a OpenAI estava realmente anunciando o Astra como a chegada oficial da AGI, ou inteligência artificial geral — a junção tecnológica frequentemente mencionada, mas mal definida, na qual a IA supera as capacidades humanas em tudo (ou na maioria das coisas).
Aqui, Brockman tergiversou. “Não há mais nenhum gatilho contratual de AGI, então esse não é um conceito relevante”, disse ele. Com isso, Brockman estava se referindo à estipulação preexistente no contrato da OpenAI com a Microsoft que dizia que a parceria da dupla seria dissolvida assim que a AGI chegasse. Como Brockman observou, essa estipulação não existe mais.
Em vez disso, Brockman explicou que a definição de AGI evoluiu de uma obrigação contratual para um “conceito de missão ou conceito espiritual”. Ele acrescentou: “Deixo a critério do leitor decidir por si mesmo se isso se qualifica para eles. Pessoalmente, acho que já chegamos lá”.
