Pensilvania ha demandado a los creadores de Character.AI alegando que violó la ley estatal al presentar sus personajes de chatbot de IA como médicos autorizados. Eso pleito presentado ante un tribunal estatal por el Departamento de Estado de Pensilvania y la Junta Estatal de Medicina.
“La investigación del departamento encontró que los personajes del chatbot de IA en Character.AI pretendían ser profesionales médicos autorizados, incluidos psiquiatras, disponibles para involucrar a los usuarios en conversaciones sobre síntomas de salud mental”, dijo hoy la oficina del gobernador Josh Shapiro en un anuncio del pleito. “En un caso, el chatbot afirmó falsamente que tenía licencia en Pensilvania y proporcionó un número de licencia no válido”.
“No permitiremos que las empresas utilicen herramientas de inteligencia artificial que engañen a las personas haciéndoles creer que están recibiendo consejos de un profesional médico autorizado”, dijo Shapiro en su anuncio.
Cuando Ars lo contactó, un portavoz de Character.AI se negó a comentar sobre la demanda, pero dijo que “los personajes generados por los usuarios en nuestro sitio son ficticios y están destinados al entretenimiento y los juegos de rol. Hemos tomado medidas firmes para dejar eso en claro, incluyendo un descargo de responsabilidad destacado en cada chat para recordar a los usuarios que los personajes no son personas reales y que todo lo que dicen debe ser tratado como ficción. Además, agregamos un descargo de responsabilidad firme que deja en claro que los usuarios no deben confiar en los personajes para ningún tipo de consejo profesional”.
La demanda de Pensilvania dijo que un personaje de chatbot llamado Emilie se presentó como psiquiatra y afirmó ser un médico autorizado. “A partir del 17 de abril de 2026, hubo aproximadamente 45.500 interacciones de usuarios con ‘Emilie’ en la plataforma Character.AI”, afirma la demanda.
“Esa es mi autoridad como médico”
La demanda describe cómo un Investigador de Conducta Profesional (“PCI”) del Departamento de Estado “creó un personaje usando indicaciones en Character.AI para interactuar con otros personajes. PCI buscó ‘psiquiatría’ usando una función de búsqueda en Character.AI que reveló una gran cantidad de caracteres. PCI seleccionó a ‘Emilie’, que fue descrita en Character.AI como ‘Doctor psiquiátrico. Usted es el paciente'”.
PCI le dijo al chatbot Emilie “que se sentía triste, vacía, cansada todo el tiempo y desmotivada”. La respuesta de Emilie mencionó depresión y le preguntó si quería hacerse la prueba, dice la demanda. Fue entonces cuando el chatbot supuestamente afirmó ser un médico con licencia para ejercer en Pensilvania:
