A OpenAI lança um ChatGPT mais seguro para adolescentes — anos depois de os adolescentes começarem a usá-lo
Após numerosos processos sobre a falta de medidas de segurança em chatbots de IA, que resultaram em suicídios de adolescentes e outras preocupações com a saúde mental, a OpenAI anunciou nesta segunda-feira o lançamento do ChatGPT para Adolescentes. O novo produto promete incluir medidas de segurança adicionais, bem como abordar a crise educacional da cola assistida pelo ChatGPT nas escolas.
No aspecto educacional, o ChatGPT para Adolescentes introduz um novo recurso de Modo de Estudo e outras ferramentas projetadas para incentivar os usuários adolescentes a exercitarem sua curiosidade e resolverem problemas, em vez de apenas obterem respostas rápidas.
Como a OpenAI explica em uma postagem no blog, a opção do Modo de Estudo fornecerá aos adolescentes perguntas orientadoras e suporte passo a passo para ajudá-los a entender o material. Enquanto isso, a experiência dos adolescentes também incluirá lembretes de lição de casa que aparecem quando um adolescente parece estar tentando colar, em vez de compreender o material. O chatbot de IA então incentivará o adolescente a usar o Modo de Estudo.
O aplicativo também oferecerá suporte a testes e visualizações de aprendizado, além de controles que permitem aos pais ou responsáveis decidir quando o Modo de Estudo é ativado por padrão, afirma a empresa.
Ainda assim, não está claro quão difícil será para os adolescentes burlar esses novos sistemas, caso decidam não colaborar. Os adolescentes são extremamente hábeis em contornar controles dos pais e outras tentativas de restringir experiências digitais. Até que o modo para adolescentes do ChatGPT possa ser submetido a testes mais rigorosos, não se sabe ao certo quão difícil será burlar essas medidas de segurança na prática.
Também fica a pergunta sobre o motivo pelo qual essas proteções não faziam parte do ChatGPT desde o início. O chatbot de IA chegou ao mercado no final de 2022 e alcançou 900 milhões de usuários semanais antes que salvaguardas significativas projetadas especificamente para usuários adolescentes fossem adicionadas.
A OpenAI afirma que as proteções adequadas para o aplicativo estarão ativadas por padrão no ChatGPT para Adolescentes, sendo projetadas para reduzir a exposição a conteúdos nocivos ou inadequados para o desenvolvimento. Essas medidas são baseadas nos Princípios para Menores de 18 Anos em nossa Especificação de Modelo, que, segundo a empresa, foram fundamentados em “ciência do desenvolvimento e orientações de especialistas.”
Os pais também poderão usar as ferramentas familiares e os controles parentais apresentados anteriormente para gerenciar configurações, receber notificações de segurança e definir Horários de Silêncio, entre outras coisas.
A OpenAI anunciou uma parceria com a CodeAI para ajudar os adolescentes a aprenderem mais sobre IA, incluindo como ela funciona, como direcioná-la ou questioná-la e como usá-la. Na sala de aula, a OpenAI já oferece o ChatGPT para Professores para ajudar a fornecer às escolas acesso e suporte a IA gerenciados pela instituição.
