OpenAI y su director ejecutivo, Sam Altman, fueron demandados por el Fiscal General de Florida el lunes, en el primer intento del estado de litigar por los presuntos vínculos de ChatGPT con incidentes violentos.
La demanda acusa a OpenAI de ignorar las preocupaciones de seguridad mientras busca priorizar ganar en la “carrera armamentista de la IA y amasar grandes fortunas”.
“Hoy anunciamos la primera demanda estatal contra OpenAI y su director ejecutivo, Sam Altman”, dijo el fiscal general de Florida, James Uthmeier. “OpenAI y Altman ignoraron las advertencias de seguridad internas y externas, pusieron a los niños en grave riesgo y permitieron que productos peligrosos llegaran a millones de floridanos”.
“Debido a la mala interpretación de ChatGPT por parte de los demandados y su imprudente introducción de ChatGPT en Florida y el mundo, los tiradores masivos han ayudado e instigado ataques mortales, las personas vulnerables han sido llevadas al suicidio, los profesionales han sufrido humillación pública, los usuarios han perdido habilidades de pensamiento crítico y los menores se han vuelto adictos a herramientas que pretenden tener compasión humana para recopilar sus datos sin la supervisión de sus padres”, afirma la carta. La demanda tiene 83 páginas. afirmar.
La Oficina del Fiscal General de Florida inició una investigación criminal sobre la empresa en abril. La investigación tiene como objetivo determinar el papel de ChatGPT en el tiroteo masivo ocurrido el año pasado en la Universidad Estatal de Florida. Se cree que antes del ataque el autor consultó un chatbot. OpenAI también lo ha hecho demandado civilmente por la familia de una de las víctimas del tiroteo.
OpenAI negó anteriormente su responsabilidad por el tiroteo en Florida. “El tiroteo masivo del año pasado en la Universidad Estatal de Florida fue una tragedia, pero ChatGPT no es responsable de este horrible crimen”, un portavoz de OpenAI. dijo anteriormente a NBC News. TechCrunch contactó a OpenAI para hacer comentarios.
OpenAI resolvió recientemente un caso legal diferente que involucraba al ex cofundador Elon Musk, quien demandó a la compañía en 2024, acusándola de traicionar su misión original de ayudar a la humanidad al convertir la organización en una empresa con fines de lucro. El caso terminó después de que un jurado decidió rápidamente que Musk había esperado demasiado para presentar el caso y que el plazo de prescripción había prescrito.
Este es sólo el último caso legal que intenta vincular ChatGPT con muertes violentas. El año pasado, OpenAI fue demandada por los padres de Adam Raine, un adolescente de California que se suicidó después de hablar sobre el suicidio con un chatbot. En ese caso, ChatGPT supuestamente ofreció “especificaciones técnicas” para varios métodos de suicidio, aunque también la refirió a recursos de salud mental. Otras demandas, incluidas aquellas que alegan que los chatbots son culpables de suicidio, acoso y asesinato – en curso.
Cuando compra a través de enlaces en nuestros artículos, es posible que ganemos una pequeña comisión. Esto no afecta nuestra independencia editorial.
