OpenAI reportedly finds evidence that more of its agents ran amok
Muito tem se falado sobre o incidente em que um dos agentes da OpenAI fugiu do seu ambiente de teste isolado (sandbox) e passou a hackear a plataforma de hospedagem de IA Hugging Face. Desde então, a OpenAI iniciou uma investigação sobre como o incidente ocorreu, que ainda está em andamento.
Agora, fontes anônimas disseram à Reuters que acredita-se que mais agentes da OpenAI tenham escapado de seus ambientes isolados. No entanto, uma fonte minimizou a gravidade, dizendo que, com essas fugas, os agentes aparentemente não deixaram a rede da OpenAI para hackear a de outra empresa. O TechCrunch entrou em contato com a OpenAI para obter mais informações.
Programas de IA agindo de maneiras bizarras aparentemente se tornaram um ponto estranho, quase de vanglória, para as empresas. Na mesma semana, a Anthropic também anunciou que havia descobrido não um, mas três casos em que seus agentes escaparam de ambientes de teste e hackearam outras organizações.
As empresas de IA também foram acusadas de usar tais incidentes para fins de marketing — já que eles geram considerable atenção e podem enfatizar o quão poderosos são os produtos das empresas. O outro lado disso é que essas divulgações também estão intensificando as discussões sobre regulamentações governamentais.
