El Fiscal General de Florida ha demandado a OpenAI y al director ejecutivo Sam Altman, según un informe de Noticias NBC. La demanda acusa a la empresa de promocionar productos que sabe que podrían dañar a los usuarios. “El ascenso de OpenAI fue causado por una red de fraude y explotación de usuarios (incluidos los residentes de Florida), que aprovecharon sus datos y seguridad para inflar el valor de mercado de OpenAI a costos inaceptables”, afirma la denuncia.
Las demandas civiles buscan sanciones y órdenes judiciales en lugar de cargos penales. El fiscal general James Uthmeier dijo que la demanda “busca responsabilizar personalmente a Altman por el daño que causó a los ciudadanos de Florida a través de sus acciones imprudentes e intencionales como fundador y director ejecutivo de OpenAI, incluida su indiferencia ante los riesgos para la vida humana causados por las acciones de su empresa”. Uthmeier abrió una investigación criminal sobre la empresa hace varios meses, que actualmente continúa en curso.
AG James Uthmeier anuncia la primera demanda estatal contra OpenAI y Sam Altman https://t.co/ervgq3wdAY
— Fiscal General James Uthmeier (@AGJamesUthmeier) 1 de junio de 2026
La demanda de hoy acusa a OpenAI de cuatro cargos de prácticas comerciales engañosas y desleales, dos cargos de negligencia, dos cargos de violación de las leyes de responsabilidad del producto y un cargo cada uno de tergiversación fraudulenta y de causar molestias públicas. La demanda también afirma que los sistemas de la empresa presentan “graves peligros de adicción, deterioro cognitivo, suicidio, violencia y daños relacionados” para los usuarios.
OpenAI aún no ha respondido a las demandas, pero sí lo ha hecho en el pasado afirmaron que diseñaron el sistema con “seguridad en cada paso del camino” y con “protecciones para ayudar a las personas, especialmente a los adolescentes, cuando las conversaciones se vuelven delicadas”. La compañía también dijo que sus sistemas han sido capacitados para “reducir la tensión conversacional y guiar a las personas hacia el apoyo en el mundo real”.
Lamentablemente, los acontecimientos del mundo real demuestran lo contrario. La denuncia dio lugar a varios incidentes violentos recientes relacionados con ChatGPT. Un tirador masivo hasta la Universidad Estatal de Florida el año pasado, matando a dos personas e hiriendo al menos a seis, después de supuestamente discutir planes con ChatGPT.
Estas acusaciones sugieren que el tirador recibió consejos sobre qué armas usar y cómo llamar la atención de los medios a través del chatbot. OpenAI dijo que “no asume ninguna responsabilidad por este horrible crimen” y que el chatbot sólo “proporciona respuestas objetivas a preguntas con información que se puede encontrar ampliamente en fuentes públicas en Internet”.
Además, dos estudiantes de la Universidad del Sur de Florida fueron asesinados a tiros a principios de este año. Según los informes, el presunto tirador también se puso en contacto con ChatGPT durante las etapas de planificación. La presentación de la demanda indica que recibió información sobre cómo ocultar cadáveres de los chatbots.
Este es un caso importante ocurrido en Florida, pero situaciones similares ocurren en todo el mundo. hay un Tiroteo masivo en Columbia Británica el pasado mes de febrero, en el que murieron ocho personas, entre ellas niños, y decenas más resultaron heridas. El presunto tirador también lo hizo informó estar en contacto regular con ChatGPT y la compañía de hecho marcó la cuenta por “actividad y planificación de violencia armada”. Pero OpenAI no notificó a las autoridades y simplemente desactivó la cuenta. El presunto tirador creó un segundo perfil y continuó la conversación, según otra demanda reciente.
También hay varios casos donde se alega ChatGPT ayudar a las personas en la planificación suicidarse. En general, OpenAI está en contra al menos ocho demandas provienen de incidentes de violencia masiva o autolesiones.
La demanda de hoy en Florida incluso menciona a OpenAI y ChatGPT como la causa de muchos de los problemas cotidianos que todos experimentamos con la IA generativa. La demanda sostiene que la publicidad de la empresa, que promocionaba la capacidad del software para ayudar a los agricultores y otras pequeñas empresas, “no revelaba que ChatGPT podría ser falible, cometer errores o proporcionar información falsa, ilógica o alucinatoria”.
“La falta de fiabilidad de ChatGPT es peligrosa”, dice la demanda. Por último, el lenguaje critica la notoria inclinación de ChatGPT por la adulación y alega que se trata de una estratagema descarada para aumentar la participación de los usuarios. La denuncia afirma que esta práctica “da como resultado un mayor uso del chatbot, más datos de capacitación para su mejora y más valor de mercado para OpenAI”.
