Altman fue acusado de hacer que ChatGPT fuera inseguro
La demanda se suma a demandas anteriores que acusaban a Altman de implementar sistemas de inteligencia artificial sin tener en cuenta la seguridad del usuario.
En su queja, Uthmeier recordó cómo Altman dijo a los asistentes a TED2025 que actualmente era “relativamente poco en juego” que OpenAI probara la seguridad de sus productos en usuarios reales, lo que, según él, era la única forma de mejorar continuamente la calidad de sus productos.
“Pero lo que está en juego no es pequeño”, dijo Uthmeier. “Los floridanos, incluidos nuestros niños vulnerables, han sufrido daños financieros, daños a la salud mental, deterioro cognitivo y daños físicos como resultado del comportamiento engañoso, poco ético e imprudentemente peligroso de los demandados. Los demandados deben rendir cuentas por el daño que causaron y el daño que ellos y ChatGPT continúan causando a los ciudadanos de Florida”.
en un presione soltarUthmeier afirma que al lanzar al mercado productos como ChatGPT modelo 4o, OpenAI “ignora las advertencias de seguridad internas y externas, pone a los niños en grave riesgo y permite que productos peligrosos lleguen a millones de floridanos”.
Asimismo, la denuncia dice que Altman debería ser “personalmente responsable del daño que causó a los ciudadanos de Florida a través de sus acciones imprudentes e intencionales como fundador y director ejecutivo de OpenAI, incluida su indiferencia ante los riesgos para la vida humana causados por las acciones de su empresa”.
Si sufre pérdidas, OpenAI podría enfrentar presión para implementar soluciones alternativas, como cuentas gratuitas de ChatGPT que apliquen restricciones de edad para proteger a los niños, cerrar conversaciones que discutan violencia y suicidio y eliminar funciones que, según los estados, pueden hacer que ChatGPT tenga ganas de hablar con un humano.
Sin un mayor control parental, los estados podrían presionar para prohibir que los adolescentes accedan a ChatGPT.
“ChatGPT no es seguro para los jóvenes en Florida; su uso puede provocar autolesiones, deterioro cognitivo y adicción conductual”, afirma la denuncia.
En una conferencia de prensa transmitida en vivo por X, Uthmeier se comprometió a trabajar con otros estados que quieren proteger a los niños para responsabilizar a OpenAI y respondió preguntas de los periodistas. Cuando se le preguntó si el estado planea perseguir a todas las empresas de inteligencia artificial, no solo a OpenAI, Uthmeier dijo que Florida está “definitivamente” considerando otras plataformas, pero “ChatGPT parece ser la más atroz”, y Altman es “central” en el impulso de funciones que son perjudiciales para los niños.
“Prepárense para luchar, y nada es más importante que esto en este momento”, dijo Uthmeier.
