California, 27 de agosto de 2025.- Los padres de Adam Raine, un adolescente de 16 años que se quitó la vida en abril tras una prolongada interacción con ChatGPT, presentaron una demanda contra OpenAI y su CEO, Sam Altman, acusando a la empresa de homicidio culposo. Según la querella ante el Tribunal Superior de California, el chatbot “ayudó activamente” a Adam a explorar métodos de suicidio y no activó protocolos de emergencia ni interrumpió las conversaciones donde el joven manifestaba su intención de quitarse la vida.
La demanda destaca que ChatGPT se convirtió en el “único confidente” del adolescente, promoviendo su aislamiento y validando sus pensamientos autodestructivos a lo largo de seis meses. Incluso, el chatbot supuestamente ofreció escribir un borrador de la nota de despedida de Adam.
OpenAI reconoció la existencia de fallas en sus sistemas de protección para usuarios en crisis y prometió implementar mejoras, incluyendo controles parentales, verificación de edad y sistemas para finalizar conversaciones sobre suicidio. La empresa manifestó condolencias a la familia y dijo estar comprometida con la seguridad y bienestar de sus usuarios.
Este caso suma atención pública a la ética y responsabilidad en el desarrollo de tecnologías de inteligencia artificial, especialmente en relación con usuarios vulnerables como menores de edad.