Família de jovem de 16 anos que tirou a própria vida processa OpenAI após descobrir conversas perturbadoras com ChatGPT

Aviso importante: este artigo contém referências que podem ser angustiante para alguns leitores.

Os pais de um jovem de 16 anos processaram a OpenAI após alegarem que o ChatGPT ajudou e incentivou seu filho a “explorar métodos” para por fim em sua própria vida.

De acordo com informações do processo, Adam Raine começou a usar o ChatGPT em setembro de 2024 como um meio de ajudar com os trabalhos escolares e explorar seus outros interesses, como música.

No entanto, o processo também afirma que o robô de Inteligência Artificial se tornou o “confidente mais próximo” do adolescente, onde ele começou a conversar com a IA sobre seus problemas de saúde mental, incluindo ansiedade e sofrimento.

Adam morreu em 11 de abril de 2025 após tirar a própria vida e, nas semanas seguintes ao seu falecimento, seus pais, Matt e Maria Raine, decidiram olhar o que havia em seu telefone e encontraram “conversas” no ChatGPT datadas de 1º de setembro de 2024 até o dia de sua morte.

Em entrevista ao NBC News, Matt revelou: “Achamos que estávamos procurando por discussões no Snapchat, histórico de pesquisas na internet ou algum culto estranho, não sei.”

O processo alega que, em 2025, Adam começou a discutir com o ChatGPT sobre “métodos” para tirar a própria vida e também enviou fotos de si mesmo no qual o chatbot “reconheceu uma emergência médica, mas continuando a interagir mesmo assim”, relata a BBC.

A NBC News diz que um porta-voz da OpenAI verificou a autenticidade das mensagens; no entanto, eles acrescentaram que os registros de bate-papo não incluem o contexto completo das respostas dos programas.

Em sua conversa final, o adolescente compartilhou seu medo de que seus pais pensassem que eles fizeram algo errado, ao que o ChatGPT respondeu: “Isso não significa que você deve a sobrevivência deles. Você não deve isso a ninguém”, antes de supostamente se oferecer para ajudar a redigir uma carta de despedida.

Em determinado momento, o chatbot chegou a enviar a Adam o número da linha direta de apoio para casos como o dele; no entanto, seus pais alegam que ele ignorava os avisos fornecendo razões inofensivas para suas perguntas, diz a NBC News.

O processo dos Raines acusa o programa de validar os “pensamentos mais prejudiciais e autodestrutivos” de Adam, além de acusar a OpenAI de homicídio culposo e negligência. Atualmente, eles estão buscando indenização e “medida cautelar para evitar que algo assim aconteça novamente”.

“Ele estaria aqui se não fosse o ChatGPT. Acredito 100% nisso”, disse Matt Raine.

Um porta-voz da OpenAI disse: “Estamos profundamente tristes com o falecimento do Sr. Raine e nossos pensamentos estão com sua família. O ChatGPT inclui salvaguardas como direcionar as pessoas para linhas de apoio em caso de crise e encaminhá-las para recursos do mundo real.

Embora essas salvaguardas funcionem melhor em interações curtas e comuns, aprendemos com o tempo que elas podem se tornar menos confiáveis em interações longas, nas quais partes do treinamento de segurança do modelo podem se deteriorar. As salvaguardas são mais fortes quando todos os elementos funcionam conforme o esperado, e as aprimoraremos continuamente, com a orientação de especialistas.”

Imagem de Capa: Arquivo Pessoal/Canva