Es casi imposible evitar ver contenido generado por IA en línea, pero no tiene por qué ser así. YouTube, Instagram, TikTok y más han intensificado sus esfuerzos de autenticación de contenido durante el año pasado, y muchos de ellos ahora aplican etiquetas automáticamente para diferenciar las imágenes, videos y música generados por IA de las imágenes, videos y música creados por humanos reales.
Está bien si encontramos contenido etiquetado al azar, pero ¿sabes qué es aún mejor? Permitiéndonos filtrar el agua sucia de la IA.
Los esfuerzos actuales de etiquetado no han cambiado significativamente la forma en que se presenta el contenido en línea. Es posible que notes que algunos videos de TikTok o YouTube en tu feed ahora tienen revelaciones de IA en sus descripciones o etiquetas de información superpuestas en los propios clips. Meta adopta un enfoque similar al aplicar una etiqueta de “información de IA” a las imágenes en Facebook e Instagram que contienen metadatos que identifican a la IA o divulgaciones voluntarias de sus creadores.
Pero si realmente lo quieres evitar Al observar cualquier cosa etiquetada como tal (con razón, dado el daño cerebral que causa, además de las cuestiones éticas y ambientales que rodean a la IA generativa), en realidad es muy difícil hacerlo. Los filtros solucionarán fácilmente este problema. Todo lo que necesitamos es la casilla de verificación “AI” para cambiar.
Me comuniqué con Meta, Google, TikTok y Spotify para preguntarles si planeaban permitir a los usuarios filtrar los distintos contenidos que han autenticado con sistemas de etiquetado de IA. TikTok y Spotify nunca respondieron y Google dijo que no tenía nada que compartir. Meta no proporciona comentarios atribuibles. Pero en resumen, ninguna de estas empresas dice “sí”.
La única plataforma online que he visto con un filtro de contenido de IA es DeviantArt, y su implementación es acertada. En primer lugar, no puedes acceder a él en tu feed o en la página de la tienda DeviantArt, por lo que parece un poco oculto. En su lugar, deberá crear una cuenta y colocar el cursor sobre su ícono de usuario en la parte superior derecha de la página para encontrar el menú “Configuración de contenido AI”. A partir de ahí, sólo tienes dos opciones: la configuración predeterminada “Mostrar IA” o la opción “Suprimir IA” que establece que verás “menos ejemplos” de imágenes generadas o manipuladas por la IA.
Después de probar ambas opciones, lamentablemente no vi diferencias notables. Hoy en día soy bastante hábil para detectar “ilustraciones digitales” generadas por IA, pero no tengo que confiar solo en mis sospechas: casi todas las imágenes dudosas que elegí incluían una revelación del creador en la descripción que confirmaba que el trabajo fue escupido por un robot. DeviantArt hace mal su trabajo aplica automáticamente etiquetas AI a imágenes con metadatos que indican claramente el origen de la IA.
Pinterest tener un sistema similar. Los usuarios que hayan iniciado sesión en su cuenta de Pinterest pueden hacer clic en el ícono de configuración, seleccionar “Refinar sus recomendaciones” y luego tocar la pestaña “Contenido de IA” para alternar categorías específicas, que incluyen arte, belleza, moda y decoración del hogar. Deshabilitar cualquiera de estas opciones mostrará “menos contenido modificado por IA” para ciertas categorías, según Pinterest, pero en mi experiencia, esto está lejos de ser perfecto. También se puede decir que las configuraciones son más difíciles de encontrar que los filtros en el feed de Pinterest. Todavía vi muchas imágenes con IA sospechosa (incluidos modelos fotográficos muy perfectos y errores de ilustración inexplicables), a pesar de que el filtro de IA estaba al máximo.
Y es casi seguro que esto sucederá si otras plataformas como YouTube o Instagram introducen filtros de contenido con IA: no funcionará bien. Pero está bien porque revelará las “soluciones” ineficaces implementadas por nuestros emperadores de la IA. Estas soluciones existen, en el papel, para complacer a los reguladores y críticos, pero hacen poco para abordar el problema real de distinguir las falsificaciones de IA de las fotografías y obras creativas genuinas.
y plataformas Hacer Sé que es un problema. El jefe de Instagram, Adam Mosseri, dijo en diciembre que “la autenticidad se está convirtiendo en un recurso escaso” en medio del aumento del contenido generado por IA. Y ahora el CEO de Google, Sundar Pichai, lo admitió recientemente Descifrador entrevista que “hay muchos errores de IA por ahí” y que los usuarios en línea deben “adaptarse a ellos”. Bien, danos un filtro.
Los sistemas basados en Origin como C2PA y SynthID funcionan incorporando metadatos invisibles o marcas de agua en el contenido en el momento de su creación. Pero hay muchos modelos de IA de código abierto que no hacen esto (especialmente si fueron diseñados con fines maliciosos), e incluso si lo hicieran, los metadatos podrían eliminarse con demasiada facilidad para que sean confiables. También existen métodos basados en la detección que analizan patrones en el contenido digital y luego evalúan la probabilidad de utilizar IA para crearlos, pero estos métodos pueden proporcionar resultados falsos positivos. Actualmente, ninguno de ellos funciona eficazmente a escala.
Sin embargo, las empresas, incluidos los proveedores de inteligencia artificial como OpenAI, ahora están promocionando estas soluciones de etiquetado de inteligencia artificial como algo que ayudará a evitar que las personas se dejen engañar por deepfakes y otras falsificaciones engañosas. Si los reguladores descubren lo ineficaces que son, es posible que las plataformas en línea y los proveedores de inteligencia artificial deban encontrar soluciones para superar esto. hacer trabajo, en lugar de lo que actualmente parece una cortina de humo.
Las plataformas argumentarán que corren el riesgo de etiquetar incorrectamente el contenido original si impulsan demasiado las iniciativas de etiquetado. Tanto Meta como YouTube experimentó dificultades después de aplicar etiquetas de IA a imágenes y videos que, según sus creadores, fueron producidos sin la ayuda de la herramienta. Si esto es una preocupación para el sistema de etiquetado actual, entonces busque una mejor solución. ¿Seguramente mejorar la experiencia de usuario de sus millones de usuarios es una inversión que vale la pena para defenderse de la competencia?
Y mientras pregunto, ¿por qué no puedo simplemente informar toda la basura de IA sin etiquetar que veo todos los días? Dada la magnitud del problema –con un estudio realizado por Kapwing el año pasado descubrió que más del 20 por ciento de los videos de YouTube mostrados a nuevos usuarios eran videos sucios de baja calidad, por ejemplo; imagino que se necesitarían muchos moderadores humanos para examinar de manera efectiva cada informe.
Y tal vez ese sea el punto. En un momento en que las grandes tecnologías están reemplazando a los trabajadores con IA supuestamente capaz de superarlos, ¿pueden esas empresas retractarse de sus narrativas cuidadosamente construidas y recontratarlos para solucionar los problemas de la IA? Los humanos tienden a tener requisitos molestos como salario y beneficiosen comparación con los sistemas de moderación automatizados que carecen de diversas habilidades de investigación.
Una alternativa a etiquetar contenido generado por IA es comenzar a etiquetar a creadores humanos verificados. No identifica necesariamente el contenido sintético que se publica. por creadores de contenido, pero esto puede ayudarnos a reducir el impacto de las colecciones de contenido no verificadas que producen agua sucia de baja calidad. Este es el futuro que Mosseri de Instagram propone para la plataforma para compartir imágenes Meta y algo que Spotify ya está haciendo con los artistas verificados.
Por supuesto, Meta, Spotify y Google no solo alojan imágenes, anuncios y música generados por IA; también son responsables de crear las herramientas que los crean. Por eso insisten en no hacerlo. todo El contenido de IA es terrible y es más una cuestión de calidad: si el contenido es lo suficientemente convincente, esperan que no lo notes y lo bebas felizmente de todos modos. Permitir que los usuarios los filtren iría en contra de todos los esfuerzos que han hecho estas plataformas para sacar provecho de la IA: quiero Que abraces la fábrica de agua sucia.
Estoy feliz de que se demuestre que estoy equivocado. en realidad estoy siendo franco solicitud que las plataformas en línea demuestren que los esfuerzos de etiquetado de IA no son una pérdida de tiempo. Pero ahora mismo son ellos los que tienen el control y sólo nos queda esperar que sus esfuerzos de moderación de la IA tengan éxito. Así que danos un filtro básico de “sin IA” o “creador humano verificado” y juzgaremos qué tan bien funciona.
