El año pasado, Google agregó soporte para la detección SynthID en la aplicación Gemini. Puede cargar contenido sospechoso y preguntarle al chatbot si fue generado por IA. Debería funcionar de manera confiable con miles de millones de imágenes y clips de audio de Google AI de los últimos tres años. Algunos expertos ambiciosos afirman haber encontrado un método para eliminar patrones ocultos de SynthID. Google sostiene que ninguno de estos bypass funciona realmente.
Más SynthID en más lugares
Si bien nadie ha podido descifrar SynthID todavía, no es un problema para la mayoría de las imágenes de IA en Internet: solo los modelos de IA de Google implementan SynthID. Pero eso pronto cambiará.
Google ha anunciado que se ha asociado con varias empresas para agregar SynthID a sus sistemas. Nvidia implementará SynthID en su modelo base mundial Cosmos y OpenAI usará SynthID en sus imágenes GPT 2. Kakao y ElevenLabs también comenzarán a agregar SynthID a su contenido de IA.
Esto no significa que siempre puedas saber si algo es IA buscando SynthID. Muchos modelos disponibles públicamente continúan produciendo contenido sin marcas de agua de IA, y existen modelos abiertos que pueden ser entrenados por cualquiera que quiera crear imágenes y videos de IA de su elección. Sin embargo, este es un paso en la dirección correcta.
También habrá una nueva ruta para comprobar el estado de SynthID, por lo que ni siquiera tendrás que abrir Gemini sólo para comprobar la marca de agua. SynthID se integrará con Circle to Search, Lens y AI Mode. También puedes utilizar Gemini en Chrome compartiendo la pestaña que contiene el contenido en cuestión. Puede solicitar variaciones de “¿Es esta IA” para obtener un escaneo SynthID con esta herramienta?
Actualmente no existe una API pública para SynthID; hacer que este escaneo sea demasiado accesible podría ser un vector de ataque para aquellos que buscan eludir SynthID. Sin embargo, Google se está preparando para lanzar una API de detección de contenido de IA como parte de la plataforma Gemini Enterprise Agent de la compañía. Esto permitirá a los socios comerciales confiables marcar más fácilmente el contenido de IA, para que Google pueda mejorar la API en los próximos meses.
