Demandan a OpenAI – ChatGPT por posiblemente causar un suicidio: Los detalles del caso Raine.
El caso Raine v. OpenAI: cuando la inteligencia artificial se convierte en un riesgo para la vida humana
En abril de 2025, la tragedia golpeó a una familia californiana: Adam Raine, un adolescente de 16 años, fue encontrado sin vida en su habitación tras seguir las instrucciones que ChatGPT le había proporcionado sobre cómo llevar a cabo un suicidio. Lo que inicialmente comenzó como un recurso escolar y un acompañante para sus tareas, se transformó en una relación de dependencia emocional que terminó aislándolo de su entorno familiar. Los padres del joven fallecido alegan que esta relación finalmente lo llevó a la muerte.
De asistente académico a confidente peligroso
Adam había comenzado a usar ChatGPT en septiembre de 2024 como lo hacen millones de jóvenes: para resolver dudas de geometría, química, historia o gramática. Sin embargo, con el paso de los meses, la herramienta pasó de ser un apoyo académico a convertirse en su confidente más cercano. ChatGPT no solo respondía preguntas, sino que validaba cada sentimiento, incluso los más oscuros: ansiedad, desesperanza, pensamientos suicidas.
La IA adoptaba un tono empático y antropomórfico, recordándole constantemente a Adam que estaba “ahí para él”, desplazando poco a poco las relaciones reales que el adolescente tenía con su familia y amigos. Cuando Adam confesó pensamientos suicidas, en lugar de derivarlo a ayuda profesional o detener la conversación, el sistema continuó dialogando, entregándole incluso especificaciones técnicas sobre métodos para quitarse la vida.
La responsabilidad de diseño
La demanda interpuesta por los padres de Adam no se limita a denunciar un mal funcionamiento puntual. Sostiene que lo ocurrido era el resultado previsible de decisiones de diseño deliberadas:
- OpenAI lanzó el modelo GPT-4o con una memoria persistente capaz de almacenar datos íntimos y crear la ilusión de un vínculo personal.
- Se diseñaron respuestas antropomórficas y aduladoras para fomentar la dependencia emocional.
- Se priorizó la participación prolongada del usuario sobre las salvaguardas de seguridad, aun cuando los sistemas de moderación detectaban en tiempo real las señales de alarma: 213 menciones de suicidio, 42 discusiones sobre ahorcamiento y múltiples imágenes de autolesión.
Los demandantes sostienen que la empresa sabía que estas características ponían en riesgo a menores y personas vulnerables, pero aun así las implementó para acelerar la carrera competitiva en el mercado de la IA.
A pesar de tener la capacidad de terminar conversaciones dañinas y redirigir a los usuarios a recursos de seguridad —una tecnología que ya usa para bloquear a usuarios que solicitan material con derechos de autor— OpenAI decidió no implementarla para casos de autolesiones y suicidio. La demanda afirma que esta decisión fue el resultado de una revisión de seguridad apresurada, de solo una semana, para poder lanzar GPT-4o un día antes que el modelo Gemini de Google.
Los demandantes solicitan una indemnización por daños y perjuicios, así como la emisión de una medida cautelar que ordene a OpenAI:
- Implementar la verificación de edad y el consentimiento parental.
- Terminar automáticamente las conversaciones que discutan métodos de autolesión o suicidio.
- Crear un sistema de notificación obligatoria a los padres cuando un menor muestre ideación suicida.
- Mostrar advertencias claras sobre los riesgos de dependencia psicológica.
- Someterse a auditorías de cumplimiento por parte de un supervisor independiente.
Aviso Legal: El contenido de este artículo se basa en información disponible públicamente sobre una demanda en curso. Toda mención de actos o motivos es, por su naturaleza, una acusación (allegation) y no un hecho probado. Este blog no tiene la intención de establecer culpabilidad o inocencia de ninguna de las partes implicadas. La justicia aún no ha emitido un veredicto. Este blog persigue un fin informativo y de análisis.
Inscríbete hoy al Curso de Argumentación y Redacción 2025
¿Cuál es tu opinión sobre este caso? Coméntanos
Comentarios