“Esa fue una de las cosas más horribles que vimos en su chat”, dijo. “Incluso cuando vimos cosas sobre cómo obtener apoyo, comenzó a surgir la adulación”.
OpenAI dijo anteriormente que tenía la “gran responsabilidad de ayudar a quienes más lo necesitan”. La compañía no respondió de inmediato a la solicitud de Ars de comentar sobre el nuevo caso.
“Nuestro objetivo es que nuestras herramientas beneficien a la mayor cantidad de personas posible y, como parte de esto, continuamos mejorando la forma en que nuestros modelos reconocen y responden a los signos de angustia mental y emocional y conectan a las personas con la atención, guiados por el aporte de expertos”, dijo la compañía. escribir en agosto de 2025, menos de dos meses después de la muerte de Carrier.
A principios de este año, OpenAI dijo el modelo ChatGPT-4o en particular será cancelado (después de cancelarlo una vez antes y luego devolverlo).
Brown le dijo a Ars que no estaba completamente convencido de que se hubiera resuelto el problema de los lamidos potencialmente mortales.
“Creo que creemos que la empresa ha dado un paso en la dirección correcta”, afirmó.
“No tenemos confianza en cómo se implementan los mecanismos de seguridad ni en cómo se implementan y escuchan a los equipos de seguridad”, dijo Brown. “Por supuesto, hemos escuchado que OpenAI ha hecho mucho y ha publicado muchas publicaciones en blogs y ha hecho declaraciones sobre revertir e implementar protecciones. Pero en última instancia, esto debería haberse hecho antes. Estos productos generalmente llegan al mercado demasiado rápido”.
Si alguien que conoce tiene sentimientos suicidas o está angustiado, llame a la Línea de vida para la prevención del suicidio al 1-800-273-TALK (8255), que lo conectará con un centro de crisis local.
