A principios de este mes, WIRED publicó un extracto del fascinante nuevo libro de Steve Rosenbaum, El futuro de la verdadque analiza cómo la inteligencia artificial deforma la conciencia humana de la realidad. Poco después, The New York Times reportado que el libro contenía más de media docena de citas inventadas o mal interpretadas. En un comunicado, Rosenbaum, que tiene una maestría en “verdad” de la Universidad de Nueva York, reconoció que sin darse cuenta incluyó un “puñado” de citas que fueron “atribuidas de manera imprecisa o sintética”. Irónicamente, la veracidad de un libro sobre cómo la IA influye en la verdad está ahora bajo intenso escrutinio debido a la forma en que el autor utiliza la IA.
Después de que se conoció la historia del Times, WIRED echó un vistazo a nuestra cita de 1.450 palabras. Un equipo de verificadores de datos lo revisó antes de su publicación y verificamos que las citas y los hechos sean exactos. Pero la política editorial de IA generativa de WIRED prohíbe la publicación de escritos creados y editados por IA, y un correo electrónico de un lector que afirma que la cita fue “abiertamente escrita por IA” plantea más preguntas sobre hasta qué punto Rosenbaum ha utilizado herramientas de IA. En el El futuro de la verdadEn sus agradecimientos, Rosenbaum escribió que ChatGPT, Claude, NaturalReaders, ProWritingAid y Grammarly habían ayudado a “refinar y pulir la presentación de sus ideas”. ¿Qué significa realmente?
WIRED analizó las cotizaciones a través de varios servicios de detección de IA, incluidos Pangram, GPTZero y ZeroGPT. Cada servicio afirma que probablemente sea generado por IA o que sea generado por IA con un alto nivel de confianza. Pero las herramientas de detección de IA son falibles y pueden producir lecturas inexactas. Entonces, el jefe de investigación de WIRED envió un correo electrónico a Rosenbaum directamente para preguntarle si utilizó IA para escribir la cita y cómo.
Él respondió: “Como muchos autores que trabajan hoy en día, utilicé herramientas de inteligencia artificial durante partes del proceso de investigación y desarrollo editorial del libro, incluido el descubrimiento de fuentes, la lluvia de ideas, la retroalimentación estructural y el refinamiento del lenguaje”. Sin embargo, enfatizó, “las ideas, los informes, los argumentos y la autoría final son míos, y las citas de WIRED no son generadas por IA y luego simplemente publicadas”. Instó a los editores de WIRED a tener cuidado al confiar en las herramientas de detección de IA, y señaló que pueden producirse resultados falsos positivos.
En este punto, el editor senior de WIRED me pidió que le echara un vistazo al episodio, ya que he estado cubriendo la IA en sus diversas formas desde 2024. Mi primer paso fue ejecutar el texto completo del libro a través de la herramienta de detección Pangram. (Si bien todas las herramientas de detección de IA tienen limitaciones y pueden producir falsos positivos, Pangram es el estándar de oro actual). Resulta que el 53 por ciento del libro fue generado por IA, y un 9 por ciento adicional figura como posiblemente asistido por IA.
Llamé a Rosenbaum y le pedí una explicación más detallada de cómo utilizó la IA para escribir el libro y si cuestionaba los resultados de Pangram. (BenBella Books, cuyo sello se publica El futuro de la verdadno respondió una solicitud de comentarios. Simon & Schuster, que distribuye los libros de BenBella en Estados Unidos, declinó hacer comentarios).
Rosenbaum no consideró la exactitud de los resultados de Pangram. De hecho, no quería hablar de eso en absoluto. “No participé en esa conversación”, dijo. “Es como decir, ¿Le pegaste a tu esposa? Esa es una de esas acusaciones a las que no hay respuesta”.
En cambio, se ofreció a explicar en términos generales su proceso editorial. Dijo que al principio del proceso de escritura, utilizó herramientas de inteligencia artificial como motor de búsqueda, lo que le ayudó a encontrar información para las secciones del libro con más investigación. Para demostrar cómo podía hacer esto, le pidió a ChatGPT que me describiera y luego leyó los resultados en voz alta. La búsqueda de IA describió con mayor o menos precisión algunas de mis historias anteriores, incluido un trabajo en un “sitio de medios zombies” generado por IA.
