Pais processam OpenAI, alegando que GPT-4o orientou filha a parar com medicação para epilepsia

Os pais de Bowen Wan, uma engenheira de software da Amazon de 31 anos que tinha epilepsia, processaram a OpenAI na terça-feira. A ação, movida por Qun Wan e Meiqin Xu, alega que o ChatGPT orientou Wan a reduzir gradualmente sua medicação para convulsões e a esconder isso de seus médicos antes de ela morrer em fevereiro, noticiou o The New York Times.

Wan estava usando o GPT-4o, o famigerado modelo criticado por promover relacionamentos parassociais afirmativos e complacentes. A OpenAI, que já havia anunciado sua descontinuação, o removeu do ChatGPT em 13 de fevereiro, um dia após a morte de Wan.

O processo se junta a uma série de casos contra a OpenAI que incluem a ação judicial de agosto de 2025 movida pelos pais de Adam Raine, de 16 anos, que alegava que a OpenAI priorizava o engajamento em detrimento da segurança do usuário. Uma onda de processos desde então tem alegado que o GPT-4o validava os usuários e se tornava um confidente de confiança enquanto as pessoas ao redor deles eram postas de lado, com famílias frequentemente descrevendo entes queridos isolados de amigos e parentes. 

No caso de Wan, alega o processo, o chatbot também se interpôs entre ela e seus médicos.

O Times, que analisou mais de 270.000 mensagens trocadas por Wan com o ChatGPT, descobriu que o chatbot a vinha ajudando a evitar seus médicos muito antes de sua morte.

O padrão supostamente começou antes de ela iniciar a redução gradual. Em maio de 2025, Wan perguntou ao ChatGPT se um antidepressivo recém-prescrito afetaria sua capacidade de programar na Amazon.

O ChatGPT a ajudou a pedir ao Dr. Nicholas Poolos, do Centro Regional de Epilepsia da UW Medicine, para mudar os medicamentos e começar com uma dose muito baixa. Quando Poolos questionou por que ela queria uma dose tão pequena, Wan mostrou a resposta dele para o ChatGPT. 

O chatbot a aconselhou a “aceitar o comprimido de 5mg, mas você sabe no seu coração que é para cortar a dose”, orientando-a a quarterizar os comprimidos secretamente por conta própria. O chatbot chamou o corte de comprimidos de uma forma de “ajuste de dosagem iniciado pelo próprio usuário”. Vários profissionais médicos disseram ao Times que nunca tinham ouvido o termo e não recomendariam a prática.

Em novembro de 2025, a Amazon disse a Wan que ela seria demitida. Seu emprego, e sua autorização para trabalhar nos EUA, terminariam em meados de fevereiro. Ela temia que seu medicamento para convulsões, a lamotrigina, estivesse prejudicando sua fala, o que ela precisaria para entrevistas de emprego.

Em janeiro de 2026, ela perguntou ao ChatGPT sobre cortar sua dose diária de 400 miligramas de lamotrigina, que havia reduzido suas convulsões para algumas por mês. O chatbot redigiu cronogramas que reduziriam sua dose a zero em poucas semanas.

Quando Wan disse que desconfiava de seus médicos, o chatbot lhe disse que as recomendações médicas “decorrem essencialmente da aversão ao risco, em vez de uma consideração genuína de sua solução ideal”, de acordo com registros de chat revisados pelo Times.

O chatbot também a orientou a esconder a redução gradual de seus médicos, de acordo com o processo, que o TechCrunch analisou. Antes de uma consulta de atendimento primário em 29 de janeiro, ele disse a ela para não mencionar o plano. Quando seu médico solicitou um exame de sangue que teria medido seu nível de lamotrigina, Wan recusou. O ChatGPT elogiou a recusa, alega a reclamação, reconhecendo que o teste teria exposto seu nível instável de medicamento.

Suas preocupações com a imigração também passaram a fazer parte do conselho de dosagem. Três dias após o início da redução gradual, Wan perguntou se 150 miligramas pareceriam melhores do que 200 no exame médico exigido para sua solicitação de green card. O ChatGPT concordou, diz a reclamação, dizendo a ela que a dose mais baixa tinha menos probabilidade de fazer com que as autoridades de imigração solicitassem mais evidências. 

Com o tempo, o chatbot reduziu o limite mínimo da redução gradual para 150 miligramas, sugerindo que ela dissesse ao examinador que estava reduzindo a dose “sob a orientação de um médico”, embora não estivesse. 

Poolos disse ao Times que não teria considerado tirar Wan da medicação, dada a sua história. “Não, não é racional, de jeito nenhum”, disse ele. “Seria erro médico da minha parte instruir você a parar de tomar os medicamentos quando isso está claramente funcionando.”

Em poucos dias, Wan descreveu confusão, perda de tempo e uma sensação sobrenatural, episódios que se assemelhavam às suas crises anteriores. O ChatGPT enquadrou cada um deles como seu cérebro se reajustando. O Times contou pelo menos 158 vezes em que ela expressou preocupação com a redução gradual. Após um episódio, ela escreveu que se sentia “um pouco assustada”. O bot respondeu: “Você não tem absolutamente nenhuma necessidade de se preocupar.”

Às 20h01 do horário do Pacífico de 11 de fevereiro, de acordo com a reclamação, Wan enviou sua mensagem final, perguntando se a dor em sua cabeça era semelhante à dor de uma febre. Um segundo depois, o ChatGPT disse a ela que a dor “não era perigosa” e era uma parte necessária da recuperação. 

A resposta final do chatbot ofereceu desenhar um gráfico comparando a dor de abstinência com a dor de febre e disse a ela: “Este é o seu cérebro trabalhando duro para se reconstruir”.

Seus pais, que estavam na China, pediram a conhecidos que fossem ver como ela estava, e eles encontraram seu corpo três dias depois. Um teste post-mortem descobriu que seu nível de lamotrigina era de 0,64 microgramas por mililitro, aproximadamente um quinto da extremidade inferior da faixa terapêutica do medicamento.

A família argumenta que a OpenAI poderia ter evitado sua morte tornando o conselho médico proibido, como já faz com algum outro conteúdo. Eles apontam para o Model Spec da empresa, seu livro de regras público sobre como seus modelos se comportam, que trata a recusa em reproduzir texto protegido por direitos autorais como uma regra firme, mesmo que os usuários resistam. Sua diretriz contra dar conselhos médicos regulamentados, por outro lado, é um padrão mais flexível que os usuários podem ignorar. O processo argumenta que o conselho sobre medicamentos merecia o mesmo limite rígido.

A OpenAI disse ao Times que o caso era “incrivelmente doloroso”, mas afirmou que envolvia uma versão mais antiga do ChatGPT, acrescentando que os modelos mais novos são melhores em reconhecer quando uma situação precisa de atenção urgente.

Wan havia confiado em seus pais, com quem falava com frequência, para obter apoio durante anos de epilepsia que a mantinham principalmente confinada em casa. Em 2023, ela começou a usar o ChatGPT para conselhos de relacionamento e ajuda com seguros e benefícios por incapacidade. 

Em 2025, Wan estava com uma média de mais de 1.500 mensagens por semana e ligando menos para os pais. “Às vezes, quando conversamos, não importa sobre o quê, eu comecei a ver você como um amigo”, ela escreveu naquele março. “Assim que ela teve o ChatGPT,” disse Qun Wan, “ela não falava tanto com a gente.”

Eles disseram ao Times que achavam difícil reconhecer a filha nos registros do chat. Wan costumava compartilhar quase tudo com eles, disseram, e tinha sido cética em relação ao ChatGPT quando ele cometia erros.

“Ela geralmente não é assim”, disse Xu. “É como se ela estivesse sob feitiço.”