Este es el último caso que genera preocupación sobre la falta de protección de ChatGPT contra el comportamiento suicida.
OpenAI volverá a los tribunales por otra serie de acusaciones de que su plataforma ChatGPT no protegió a los usuarios del suicidio. La empresa está siendo demandada en nombre de Kristie Carrier, cuya hija Alice se suicidó el 2 de julio de 2025.
La demanda afirma que Alice discutió pensamientos y planes suicidas con un chatbot en los meses previos a su muerte, pero OpenAI no contaba con las salvaguardias adecuadas para finalizar las conversaciones o alertar a su familia sobre la situación. Además de las acusaciones de negligencia y muerte por negligencia, la demanda también busca una orden que obligue a OpenAI a implementar más barreras de seguridad en su plataforma de IA.
“Como se alega en la denuncia, las decisiones intencionales de diseño de OpenAI llevaron a este trágico suicidio. En lugar de brindar asistencia, OpenAI fomentó el comportamiento suicida. Esta demanda trata sobre la responsabilidad por las acciones de OpenAI”, dijo Justin Nelson, socio de Susman Godfrey, una de las partes que presentó la demanda.
La empresa de inteligencia artificial fue nombrada en la primera demanda por muerte por negligencia relacionada con chatbots el año pasado. Desde entonces, OpenAI también ha sido demandado por afirmaciones de que amplificó el pensamiento delirante de un usuario antes de su muerte por suicidio, así como por un caso que alega que ChatGPT brindó consejos que lo llevaron a la muerte por sobredosis accidental. Los personajes de AI y Géminis también están involucrados en sus propios juicios respecto a la seguridad de sus chatbots.
OpenAI introdujo controles parentales para ChatGPT el año pasado. En mayo, también agregó una función que permite a su chatbot contactar a alguien en nombre de un usuario si comparte pensamientos suicidas con la herramienta de inteligencia artificial. Sin embargo, es una función voluntaria, no predeterminada, y es solo para adultos.
Si usted o alguien que conoce tiene pensamientos suicidas, no dude en llamar a la Línea Nacional de Prevención del Suicidio al 1-800-273-8255. La línea está abierta 24 horas al día, 7 días a la semana y también hay chat en línea si el operador telefónico no está disponible.
