A Anthropic diz que seu laboratório de biologia já encontrou algo grande

Na semana passada, a Anthropic confirmou que estava operando um laboratório de biologia úmida na Área da Baía, onde usa seus modelos de IA para realizar experimentos físicos. Nesta semana, a gigante da IA anunciou que esse laboratório já fez o que acredita ser uma grande descoberta: um novo “sistema” enzimático que possui certas “propriedades que lembram o CRISPR”, conforme a Anthropic descreve.

O CRISPR é um sistema imunológico natural usado por bactérias para combater vírus que se tornou uma tecnologia de edição genética amplamente utilizada por pesquisadores.

Em suma, o que a Anthropic diz ter encontrado é um sistema enzimático até então desconhecido, oculto no DNA de bacteriófagos, que são vírus que infectam e se replicam dentro de bactérias. Os pesquisadores da Anthropic dizem que esse sistema se comporta de maneira semelhante ao CRISPR, pois pode “realizar operações como cortar, copiar e colar DNA.”

Caberá à comunidade de pesquisa em geral validar quão grande, ou nova, essa descoberta realmente é. O CEO da Anthropic, Dario Amodei, reconhece que a descoberta se baseou no trabalho de outros e que uma equipe de Stanford descobriu anteriormente um sistema “que é, de certa forma, semelhante ao que o Claude encontrou”, escreveu ele no X.

Mas Amodei e a Anthropic não estão enfatizando apenas a descoberta. Eles estão divulgando que ela foi encontrada “majoritariamente, embora não totalmente, pelo Claude”, escreveu o CEO.

Por um lado, isso é impressionante. Este laboratório foi estabelecido apenas nesta primavera (embora a Anthropic tenha recusado ser mais específica sobre há quantos meses está aberto). Uma descoberta em apenas alguns curtos meses já seria um trabalho rápido o suficiente, mas a equipe disse que, na verdade, o Claude levou apenas 21 horas de esforço concentrado. O Claude vasculhou dados usando cerca de 950 agentes que consumiram 210 milhões de tokens.

Ainda assim, a revelação de que a Anthropic tem conduzido experimentos de biologia surge logo após CEOs de IA, incluindo Amodei, admitirem publicamente que os modelos se tornaram tão capazes, e potencialmente tão perigosos, que a indústria deve desacelerar e desenvolver procedimentos de teste de segurança. Isso depois que alguns de seus funcionários disseram publicamente no início deste mês que existe o risco de a IA nos matar a todos.

O próprio Amodei disse que uma das coisas que ele mais teme é que a IA possa ser usada para bioterrorismo. Mas ele também acredita que a IA vai “curar a maioria das doenças em 5 a 10 anos”, escreveu ele. Portanto, a Anthropic claramente decidiu que as recompensas valem os riscos.

Dado isso, talvez a maior revelação nesta notícia não seja a descoberta em si, mas o fato de o laboratório de biologia não ter soltado o Claude sem amarras. Os experimentos físicos foram feitos por humanos.

“Nosso laboratório, localizado na Área da Baía, parece um laboratório típico de biologia molecular. Fazemos pesquisas que envolvem apenas os níveis mais baixos de risco de biossegurança (BSL-1 e BSL-2) e não manuseamos patógenos que possam infectar humanos. Todo o trabalho de laboratório é realizado por cientistas humanos.”

Também é verdade que a pesquisa biológica impulsionada por IA não é exclusividade da Anthropic. Pesquisadores de Stanford acabam de publicar um artigo sobre o trabalho que estão realizando com LLMs e CRISPR. Pesquisadores da UC San Francisco usaram IA para projetar enzimas do zero. O Google lançou sua primeira ferramenta de pesquisa em biologia alimentada por IA, o AlphaFold, ainda em 2020. Portanto, a IA claramente chegou à pesquisa biológica além dos próprios laboratórios de IA que a perseguem.

No entanto, Amodei não descartou um laboratório de biologia totalmente automatizado no futuro. “Com o tempo, pode até ser possível que o próprio Claude realize os experimentos com segurança, controlando de forma autônoma os equipamentos de laboratório, com as devidas salvaguardas em vigor, mas não estamos fazendo isso hoje”, disse ele.

.