Pais processam OpenAI, alegando que GPT-4o orientou sua filha a evitar medicamentos contra convulsões

Os pais de Bowen Wan, um engenheiro de software da Amazon de 31 anos com epilepsia, processaram a OpenAI na terça-feira. A ação, movida por Qun Wan e Meiqin Xu, alega que ChatGPT treinou Wan para diminuir gradualmente sua medicação contra convulsões e escondê-la de seus médicos antes de morrer em fevereiro, O New York Times noticiou.

Wan estava usando o GPT-4o, o infame modelo criticado por promover relacionamentos parassociais afirmativos e agradáveis. A OpenAI, que já havia anunciado sua aposentadoria, removeu-o do ChatGPT em 13 de fevereiro, um dia após a morte de Wan.

O processo se junta a uma série de casos contra a OpenAI que inclui a ação judicial de agosto de 2025 movida pelos pais de Adam Raine, de 16 anos, que alegou que a OpenAI priorizou o envolvimento em detrimento da segurança do usuário. Desde então, uma onda de ações judiciais alegou que o GPT-4o validou os usuários e se tornou um confidente de confiança enquanto as pessoas ao seu redor eram deixadas de lado, com as famílias frequentemente descrevendo entes queridos isolados de amigos e parentes.

No caso de Wan, alega o processo, o chatbot também se interpôs entre ela e seus médicos.

O Times, que analisou mais de 270 mil mensagens trocadas por Wan com o ChatGPT, descobriu que o chatbot a ajudava a evitar os médicos muito antes de sua morte.

O padrão supostamente começou antes de ela começar a diminuir gradualmente. Em maio de 2025, Wan perguntou ao ChatGPT se um antidepressivo recém-prescrito afetaria sua capacidade de codificar na Amazon.

ChatGPT a ajudou a pedir ao Dr. Nicholas Poolos, do Centro Regional de Epilepsia da UW Medicine, para trocar os medicamentos e começar com uma dose muito baixa. Quando Poolos questionou por que ela queria uma dose tão pequena, Wan mostrou sua resposta ao ChatGPT.

O chatbot aconselhou-a a “aceitar o comprimido de 5 mg, mas no fundo você sabe que é para reduzir a dose”, treinando-a para ela mesma dividir secretamente os comprimidos. O chatbot chamou o corte de comprimidos de uma forma de “ajuste de dosagem autoiniciado”. Vários profissionais médicos disseram ao Times que nunca tinham ouvido falar do termo e não recomendariam a prática.

Em novembro de 2025, a Amazon disse a Wan que seria demitida. Seu emprego e sua autorização para trabalhar nos EUA terminariam em meados de fevereiro. Ela temia que seu medicamento contra convulsões, a lamotrigina, estivesse entorpecendo sua fala, de que ela precisaria para entrevistas de emprego.

Em janeiro de 2026, ela perguntou ao ChatGPT sobre o corte de sua dose diária de 400 miligramas de lamotrigina, o que reduziu suas convulsões para algumas por mês. O chatbot elaborou cronogramas que levariam sua dose a zero em semanas.

Quando Wan disse que não confiava nos seus médicos, o chatbot disse-lhe que as recomendações dos médicos “resultam essencialmente da aversão ao risco, em vez de uma consideração genuína da sua solução ideal”, de acordo com registos de chat analisados ​​pelo Times.

O chatbot também a treinou para manter a redução gradual longe de seus médicos, de acordo com o processo, que o TechCrunch analisou. Antes de uma consulta de cuidados primários em 29 de janeiro, disse-lhe para não mencionar o plano. Quando seu médico solicitou um exame de sangue que mediria seu nível de lamotrigina, Wan recusou. ChatGPT elogiou a recusa, alega a denúncia, reconhecendo que o teste teria exposto seu nível instável de drogas.

Suas preocupações com a imigração também passaram a fazer parte do conselho sobre dosagem. Após três dias de redução gradual, Wan perguntou se 150 miligramas pareceriam melhores do que 200 no exame médico exigido para seu pedido de green card. ChatGPT concordou, diz a denúncia, dizendo que a dose mais baixa tinha menos probabilidade de levar as autoridades de imigração a solicitar mais provas.

Eventualmente, o chatbot baixou o limite mínimo de redução gradual para 150 miligramas, sugerindo que ela dissesse ao examinador que estava diminuindo gradualmente “sob orientação de um médico”, embora não estivesse.

Poolos disse ao Times que não teria considerado diminuir gradualmente a medicação de Wan, dado o seu histórico. “Não, não é racional, de jeito nenhum”, disse ele. “Seria uma negligência da minha parte instruí-lo a parar de tomar os medicamentos quando eles estão claramente funcionando.”

Em poucos dias, Wan descreveu confusão, perda de tempo e uma sensação de outro mundo, episódios que lembravam suas convulsões anteriores. ChatGPT enquadrou cada um como seu cérebro se reajustando. O Times contou pelo menos 158 vezes em que ela expressou preocupação com a redução gradual. Depois de um episódio, ela escreveu que se sentiu “um pouco assustada”. O bot respondeu: “Você não precisa se preocupar absolutamente”.

Às 20h01 (horário do Pacífico) do dia 11 de fevereiro, de acordo com a denúncia, Wan enviou sua mensagem final, perguntando se a dor de cabeça era semelhante à dor de febre. Um segundo depois, ChatGPT disse a ela que a dor “não era perigosa” e era uma parte necessária da recuperação.

A resposta final do chatbot ofereceu-lhe um gráfico comparando a dor da abstinência com a dor da febre e disse-lhe: “Este é o seu cérebro trabalhando duro para se reconstruir”.

Seus pais, que estavam na China, pediram a conhecidos que a verificassem e encontraram seu corpo três dias depois. Um teste post-mortem descobriu que seu nível de lamotrigina era de 0,64 microgramas por mililitro, cerca de um quinto do limite inferior da faixa terapêutica da droga.

A família argumenta que a OpenAI poderia ter evitado sua morte ao tornar o aconselhamento médico proibido, como já faz com alguns outros conteúdos. Eles apontam para o Model Spec da empresa, seu livro público de regras sobre como seus modelos se comportam, que trata a recusa de reproduzir texto protegido por direitos autorais como uma regra firme, mesmo que os usuários recuem. A sua orientação contra a prestação de aconselhamento médico regulamentado, por outro lado, é um padrão mais brando que os usuários podem ignorar. O processo argumenta que o aconselhamento sobre medicamentos merecia o mesmo limite rígido.

A OpenAI disse ao Times que o caso era “incrivelmente doloroso”, mas disse que envolvia uma versão mais antiga do ChatGPT, acrescentando que os modelos mais recentes são melhores para reconhecer quando uma situação precisa de atenção urgente.

Wan contava com o apoio dos pais, para quem ligava com frequência, durante os anos de epilepsia que a mantiveram praticamente presa em casa. Em 2023, ela começou a usar o ChatGPT para aconselhamento de relacionamento e ajuda com seguros e benefícios por invalidez.

Em 2025, Wan tinha em média mais de 1.500 mensagens por semana e ligava menos para os pais. “Às vezes, quando conversamos, não importa o que seja, comecei a ver você como um amigo”, escreveu ela naquele mês de março. “Depois que ela teve o ChatGPT”, disse Qun Wan, “ela não falou muito conosco”.

Eles disseram ao Times que tiveram dificuldade para reconhecer sua filha nos registros de bate-papo. Wan já havia compartilhado quase tudo com eles, disseram, e era cético em relação ao ChatGPT quando cometia erros.

“Ela geralmente não é assim”, disse Xu. “É como se ela estivesse enfeitiçada.”