Durante la semana pasada, comenzó un nuevo movimiento de fanworks, con el objetivo de erradicar a los escritores que utilizan IA generativa. Pero los métodos de detección implementados siguen siendo cuestionables y cualquier escritor de fanfics podría verse atrapado en el fuego cruzado.
El disgusto generalizado por el uso de Claude, ChatGPT y otras herramientas de inteligencia artificial existe desde hace mucho tiempo. una cosa en la comunidad creativa, incluido el mundo del fanfiction. Lectores y escritores han compartido consejos para detectar trabajos supuestamente generados por IA, citando todo, desde guiones hasta concepto amplio de prosa morada. Pero el 29 de junio, una cuenta X anónima llamó @heatedrivalryai prometiendo una solución que parece más fiable. Publicó un aspecto, similar a una extensión, para el popular repositorio de fanfic Archive of Our Own (AO3) que supuestamente identificaría los artefactos de codificación dejados por el robot Claude Anthropic.
“Cuando la respuesta generada por Claude se pega directamente en AO3 desde Claude, el texto se envuelve en el código ‘font-claude-response-body’ que Claude inyectó”, dijo la cuenta @heatedrivalryai. “Su presencia habla con seguridad del uso de Claude”. Cuando un usuario visita una página (como una obra de fanfic) con este código, la máscara cambiará todo el fondo a rojo.
un número de puesto de prueba se ha publicado en AO3, lo que permite a los usuarios comprobar si funciona. La pantalla se puso roja inmediatamente cuando probé la piel con estas muestras y publiqué una historia corta creada por Claude para realizar mi propio experimento por si acaso. La pantalla roja aparece cuando pego directamente desde el chatbot al editor y desaparece si pego texto (incluida exactamente la misma historia generada) que no proviene directamente de Claude.
La publicación del detector de Claude estuvo acompañada de un ejemplo de un fanfic en el que tales artefactos eran visibles, que según el creador anónimo tenía como objetivo mostrar que el sistema estaba funcionando, no “crear un ambiente de desconfianza o señalar con el dedo a ciertos usuarios”. Pero la comunidad de fanfic se movilizó rápidamente para nombrar y avergonzar a los autores cuyos trabajos publicados fueron marcados por la herramienta, y sus creadores ciertamente no vieron la IA como algo positivo. “Fandom es un espacio único, conectado y colaborativo. Se nutre del elemento humano y de la chispa creativa que lo impulsa y se alimenta”, dijeron. “Si, sin saberlo, permitimos que la IA destruya estos espacios, ¿qué queda?”
Anthropic no respondió a mi solicitud de verificar si el detector Claude hecho por fans funcionaba como se describe. Sin embargo, la metodología utilizada aquí parece razonable y nuestras propias pruebas la respaldan. No hay ninguna razón obvia para que el código de Claude esté presente en una historia si no se utilizan bots. Pero existe claramente el riesgo de que se produzcan falsos negativos y una generalización excesiva.
El ajuste de código solo se conserva si el texto se copia directamente desde Claude al editor AO3, por lo que no capturará nada editado en Google Docs o Microsoft Word y luego movido a AO3, y como alguien que se gana la vida escribiendo, puedo dar testimonio de lo riesgoso que puede ser escribir directamente en un CMS. Algunos autores que han sido marcados han actualizado su trabajo para eliminar dichos artefactos, y los trabajos posteriores pueden eludir fácilmente la herramienta.
Por el contrario, la etiqueta no revela cuánto se utiliza Claude en una obra en particular. Esa pantalla roja parpadeante podría significar que toda la historia fue completamente generada por IA, o que un escritor pegó algunas oraciones escritas por humanos en Claude para revisión ortográfica o traducción, y luego las transfirió nuevamente a AO3.
Eso no les importó a los pocos miembros del fandom que lo vieron. cada el uso de la IA generativa como una traición imperdonable a la comunidad creativa en general. Mucha gente ha expresado su preocupación por el impacto ambiental de esta tecnología y cómo se está entrenando para acabar con la web abierta, que probablemente incluye obras de fans subidas a plataformas como AO3.
La aplicabilidad de esta herramienta en particular es limitada: AO3 no es la única plataforma para publicar obras de fans y Claude es solo uno de muchos modelos de IA. Al menos una persona reclamó Han escrito un código separado que puede detectar el uso de “Claude, Deepseek y algunos ChatGPT”, pero no han lanzado la solución al público ni han explicado cómo funciona. Pregunté a Google y OpenAI si sus modelos dejan artefactos rastreables en la generación de texto que podrían detectarse de manera similar, pero no respondieron.
De hecho, sería sorprendente que existiera un sistema que fuera universalmente fiable. He estado informando sobre problemas relacionados con la detección de IA durante varios años y, hasta donde yo sé, hay No es actualmente una solución tecnológica confiable para distinguir el texto generado del texto escrito por manos humanas. Sistemas como C2PA Content Credentials y SynthID de Google están logrando algunos avances en la identificación de IA generativa en imágenes, videos e incluso audio, pero dependen de marcas de agua invisibles y metadatos que no se transfieren al texto copiado y pegado.
Las empresas de IA tienen un incentivo para al menos resolver los problemas internamente
Esto puede cambiar en el futuro y las empresas de IA tienen un incentivo para al menos resolver este problema internamente. Los primeros modelos se entrenaron con textos extraídos indiscriminadamente de Internet y, a medida que la escritura humana fue reemplazada por escritura sintética, pudieron tomar riesgos”.colapso del modeloEscenario que disminuirá la precisión de la salida.
Sin embargo, por ahora, la mayoría de las comunidades de fans todavía dependen de las vibraciones. La mayoría de los fanfic no se juzgan en función de herramientas como los aspectos de AO3, sino más bien en función de la “historia”, que puede incluir cualquier cosa, desde estructuras de oraciones específicas, como la famosa línea “no es X, es Y”, hasta el uso excesivo de metáforas floridas. (Al menos nadie en el fandom, hasta ahora, lo hace el banco se convierte en un hombre.) Pero tenemos que recordarlo. La IA suele escribir así porque está entrenado en cosas escritas por personas reales. Intenta imitarnos. No soy lo suficientemente valiente como para compartir mis favoritos de AO3, pero definitivamente leí algunos fanfic demasiado cursis en los días de Internet anteriores a ChatGPT que no pasarían esta dudosa prueba de olfateo.
La mejor solución para distinguir el trabajo de IA en AO3 ya está disponible: un potente sistema de etiquetado de sitios. A”Creado utilizando IA generativa“Las etiquetas existen, y muchos autores las incluyen para revelar el uso de herramientas como la de Claude. Pero esto requiere transparencia honesta, y no hay ningún incentivo para la honestidad dada la reacción. También vale la pena recordar que se supone que el fanfiction es un pasatiempo, no una industria regulada.
Con los esfuerzos para evitar que la IA desvíe la atención de la creatividad genuina impulsada por los humanos, los escritores que no cumplan con una calidad de escritura considerada aceptable pueden convertirse en víctimas inocentes de la actual caza de brujas. Al menos un autor ha estado involucrado en esto porque había alguien más en quien confiaban. para editar su fic Hazlo usando Claude. Entonces, si el próximo fanfic que leas te parece robótico, recuerda que probablemente no lo sea. De hecho convertirse en un producto robótico.
