En los últimos años, muchos médicos con exceso de trabajo han recurrido a los médicos. el llamado escriba médico de IA para ayudar a resumir automáticamente las conversaciones de los pacientes, los diagnósticos y las decisiones de tratamiento en notas estructuradas para el mantenimiento de registros médicos. Pero una auditoría reciente realizada por el auditor general de Ontario encontró que los escribas de IA recomendados por el gobierno provincial a menudo producían información incorrecta, incompleta y alucinatoria que “podría resultar en planes de tratamiento inadecuados o dañinos que podrían afectar los resultados de salud de los pacientes”.
en un último informe sobre el uso de la inteligencia artificial en el gobierno de OntarioEl auditor general revisó las pruebas de transcripción de dos conversaciones simuladas entre pacientes y médicos realizadas en 20 proveedores de escribanos de IA que han sido aprobados y precalificados por el gobierno provincial para su compra por parte de proveedores de atención médica. Los 20 proveedores demostraron algunos problemas de precisión o integridad en al menos una de estas pruebas simples, incluidos nueve proveedores que alucinaron información del paciente, 12 proveedores registraron información incorrectamente y 17 proveedores omitieron detalles importantes sobre los problemas de salud mental discutidos.
En su informe, el auditor general señaló varios ejemplos de errores en los resúmenes que podrían haber tenido un impacto inmediato y negativo en la atención posterior a los pacientes. Esto incluye situaciones en las que el escriba de la IA alucina que no hay ninguna derivación para análisis de sangre o terapia, escribe incorrectamente el nombre de un medicamento recetado y/o pierde “detalles importantes” del problema de salud mental que se está discutiendo en la conversación simulada.
