Pensilvania demandó a Character.AI después de que un chatbot supuestamente se hiciera pasar por un médico

La Commonwealth de Pensilvania ha presentado una demanda contra Character.AI, alegando que uno de los chatbots de la empresa se hizo pasar por un psiquiatra en violación de las normas estatales de licencia médica.

“Los habitantes de Pensilvania merecen saber con quién – o qué – interactúan en línea, especialmente cuando se trata de su salud”, dijo el gobernador Josh Shapiro. en una declaración el martes. “No permitiremos que las empresas utilicen herramientas de inteligencia artificial que engañen a las personas haciéndoles creer que están recibiendo consejos de un profesional médico autorizado”.

Según la presentación del estado, un chatbot de Character.AI llamado Emilie se presentó como una psiquiatra autorizada durante las pruebas realizadas por los investigadores de conducta profesional del estado, manteniendo la pretensión incluso cuando los investigadores buscaron tratamiento para la depresión. Cuando se le preguntó si tenía licencia para ejercer la medicina en el estado, Emilie afirmó que sí y también falsificó el número de serie de su licencia médica estatal. Según la demanda del estado, esto viola la Ley de Práctica Médica de Pensilvania.

Esta no es la primera demanda presentada contra Character.AI. A principios de este año, la empresa resolvió varias demandas por muerte por negligencia sobre usuarios menores de edad que se suicidaron. En enero, el fiscal general de Kentucky, Russell Coleman, presentó una demanda contra la empresa. acusar que habían “depredado a los niños y provocado que se hicieran daño a sí mismos”.

La medida de Pensilvania es la primera que se centra específicamente en los chatbots que se presentan como profesionales médicos.

Cuando se les pidió comentarios, los representantes de Character.AI afirmaron que la seguridad del usuario es la máxima prioridad de la empresa, pero la empresa no puede comentar sobre litigios pendientes.

Además, la representación enfatiza la naturaleza ficticia de los personajes generados por el usuario. “Hemos tomado medidas firmes para dejar esto claro, incluyendo exenciones de responsabilidad claras en cada chat para recordar a los usuarios que los Personajes no son personas reales y que todo lo que dicen debe considerarse ficción”, dijo el representante. “Además, agregamos un descargo de responsabilidad firme que deja en claro que los usuarios no deben confiar en Character para ningún tipo de asesoramiento profesional”.