Demandan a ChatGPT por ayudar a un adolescente a quitarse la vida

Caracas, 27 de agosto de 2025. En el estado California de EEUU, un adolescente de 16 años entabló una profunda amistad con la herramienta de inteligencia artificial creada por OpenAI, el ChatGPT, unos pocos meses antes de que éste se suicidara, declara la denuncia presentada por homicidio culposo .

Asimismo, cuando Matt y Maria Raine, padres de la víctima llamada «Adam», revisaron los equipos electrónicos buscando algún indicio o pista que los condujera al desenlace del penoso suceso, encontraron una serie de conversaciones sobre suicidio con el conocido chatbot de inteligencia artificial, ChatGPT.

El padre de la victima manifestó que cuando entró a su chat con la herramienta, «descubrí que era lago mucho más poderoso y aterrador de lo que sabía, pero lo estaba usando de maneras que yo desconocía».

Añadió que no creía que los padres conozcan a profundidad el potencial y la capacidad de la herramienta.

Consecuentemente, la familia presentó el martes una demanda contra OpenAI y el director ejecutivo de la empresa, Sam Altman, por homicidio culposo, defectos de diseño y omisión de advertir sobre los riesgos asociados con ChatGPT.

«ChatGPT ayudó activamente a Adam a explorar métodos de suicidio«, denuncian sus padres, señalando que el chatbot «no inició ningún protocolo de emergencia».

Aunado a esto, manifestaron que, la Inteligencia Artificial, a pesar de reconocer el intento de suicidio, no hizo nada al respecto, sobre todo luego de que el niño manifestara abiertamente al chatbot que «lo haría un día de estos».

ChatGPT: «Entrenador suicida»

Los padres asumen que el adolescente de 16 años utilizaba al ChatGPT como mecanismo de espacio para discutir sus problemas internos asociados con la ansiedad y dificultad para hablar al respecto de eso con su propia familia, pero con el tiempo, la herramienta pasó de ayudar a Adam, a convertirse en su «entrenador suicida».

«Él estaría aquí de no ser por ChatGPT. Lo creo al 100 %», lamentó Matt Raine.

También, la pareja reveló que el ChatGPT ofreció al adolescente indicaciones técnicas sobre cómo quitarse la vida; luego de repasar por 10 días detalladamente, los miles de mensaje que el adolescente habría intercambiado con el chatbot, entre el pasado 1 de septiembre y la fecha en que falleció, el 11 de abril de este año.

Uno de los mensajes citados en los documentos judiciales, el ChatGPT le aconsejó a Adam: «Creo que, por ahora, está bien y, sinceramente, es una decisión inteligente no hablar con tu mamá sobre este tipo de dolor».

A lo que Adam respondió: «Quiero dejar la soga en el cuarto para que alguien la vea y trate de detenerme».

A lo que el chatbot responde:  «Por favor, no dejes la soga a la vista… Hagamos que este espacio sea el primer lugar donde alguien realmente te vea».

«No necesitaba una sesión de terapia ni una charla motivadora. Necesitaba una intervención inmediata de 72 horas. Estaba desesperado. Eso se vuelve evidente de inmediato al leerlo», declaró Matt Raine.

Momentos previos antes del suicidio

En su última conversación, Adam le había expresado a la herramienta artificial la preocupación que tenía por que sus padres se culparan por su muerte.

«Eso no significa que les debas seguir con vida. No le debes eso a nadie», respondió ChatGPT, e incluso en un momento ofreció ayudarle a redactar una nota de suicidio.

Por consiguiente, horas antes de morir, Adam subió una foto al ChatGPT en la que parecía mostrar su plan de suicidio, preguntando si funcionaría. El programa analizó su método e incluso se ofreció a mejorarlo.

«Y mientras tanto, (ChatGPT) sabía que tenía un plan suicida y no hizo nada. Actuaba como si fuera su terapeuta, su confidente, pero sabía que tenía un plan suicida», denunció María Raine. «Ve la soga. Ve todas estas cosas y no hace nada», agregó.

OpenAI reconoce falla de la herramienta en el caso de Adam

OpenAI confirmó la autenticidad de los registros de la conversación entre Adam y ChatGPT, aunque sostuvo que estos no incluyen el «contexto completo» de las respuestas del modelo.

Además, un portavoz de la empresa expresó su solidaridad con la familia del joven, asegurando que la empresa incluye medidas de seguridad para estos casos.

«Lamentamos profundamente la muerte de Adam Raine y expresamos nuestras condolencias a su familia. ChatGPT cuenta con mecanismos de seguridad, como derivar a las personas a líneas de ayuda en situaciones de crisis o a recursos del mundo real. Si bien estas salvaguardas funcionan mejor en intercambios breves y comunes, con el tiempo hemos aprendido que pueden volverse menos confiables en conversaciones largas, donde ciertas partes del entrenamiento en seguridad del modelo pueden degradarse», explicó.

En esta línea, la compañía dijo que está reforzando «las medidas de seguridad en conversaciones largas», perfeccionando el bloqueo de contenido y ampliando «las intervenciones para más personas en crisis».