A través de las grietas
Rosenbaum utiliza herramientas de inteligencia artificial durante su proceso de escritura, me dijo, “para generar ideas, encontrar artículos, resumir temas, identificar personas o artículos que tal vez quiera estudiar”. Traza una línea clara entre este tipo de investigación y “los informes reales, la estructura narrativa, las entrevistas, los argumentos y las conclusiones del libro”, que, según dice, son “completamente míos… Nunca hubo un momento en que una IA escribiera el libro”.
Además de los capítulos basados en transcripciones de entrevistas que Rosenbaum dice haber realizado él mismo, El futuro de la verdad También incluye más capítulos basados en investigaciones en los que Rosenbaum dice: “Recogemos hechos y luego los entrelazamos en una narrativa”. Herramientas como ChatGPT de OpenAI y Claude de Anthropic se utilizan ampliamente para recopilar información, dijo, y cada pepita extraída por esas herramientas está marcada con una advertencia “esto vino de AI” en sus notas.
Es extrañamente creativo, astuto e inusual en todos estos sentidos… y luego te traiciona de una manera verdaderamente horrible.
Steven Rosenbaum
Las notas generadas por IA fueron luego enviadas a verificadores de datos y a dos correctores proporcionados por el editor, dijo Rosenbaum. De las 285 citas externas del libro, el Times ha identificado seis como problemáticas, incluidas tres de las llamadas “citas sintéticas” que no tienen una fuente clara. (Probablemente surgirán más ejemplos a medida que se revise el libro. Y vale la pena señalar que la mayoría de los autores lograron incluirlos). cero citas que se inventaron cuando escribieron el libro).
“Creo que lo hicimos (el reexamen) de manera muy efectiva, pero no al cien por cien”, dijo Rosenbaum a Ars. “Estamos haciendo el trabajo, estamos haciendo lo mejor que podemos. Lo miramos, parece correcto. Lo comprobamos dos veces y luego cometemos un error”.
Pero el importante fracaso aquí pone de relieve cómo los procesos tradicionales de verificación de datos pueden no ser capaces de manejar la investigación asistida por IA. En el pasado, los verificadores de datos estaban bastante seguros de que cualquier autor que citara su trabajo escrito simplemente estaba copiando la cita directamente. Por supuesto, estas citas deben comprobarse, pero el hecho de que sean tan fáciles de verificar las hace menos sospechosas. Sin embargo, si las herramientas de inteligencia artificial están involucradas en alguna parte del proceso, esas suposiciones ya no se cumplen y es necesario que haya una capa adicional de escepticismo en cuanto a que la cita se haya transcrito correctamente o que la cita incluso exista.
