Meta está trabajando en herramientas para identificar imágenes y videos creados con su nuevo modelo de creación de imágenes, Muse Image. La compañía mostró el avance. herramienta basada en web que puede comprobar si hay marcas de agua invisibles utilizadas por los nuevos modelos.
Este sistema de marca de agua, llamado Content Seal, permanece vigente “incluso cuando se recorta, se comprime, se cambia el tamaño o se hace una captura de pantalla”, explica Meta en un publicación de blog. “Estamos presentando una vista previa de una herramienta de detección que le permite comprobar si una imagen tiene una marca de agua Content Seal, lo que proporciona una forma inicial de ayudarle a comprender mejor si una imagen se creó con Meta AI”.
Content Seal parece ser un nuevo enfoque para Meta. La versión de la que forma parte Muse Image es propietaria, aunque la compañía ha lanzado previamente versiones de código abierto de la tecnología, dijo Meta a Engadget. El nuevo modelo de Meta no incluye ninguna marca de agua visible, ya que algunas versiones anteriores de Meta AI agregaron un pequeño logo en la esquina inferior derecha.
Por ahora, las capacidades de detección de Meta AI se limitan a imágenes creadas o editadas con Muse Image, aunque la compañía dijo que planea expandir la marca de agua Content Seal a videos creados y editados por AI también. Meta también está trabajando en un modelo de creación de videos separado llamado Muse Video que “llegará pronto”.
Probé la nueva función de detección en imágenes que creé hoy con Meta AI y la herramienta basada en web pudo detectar marcas de agua para imágenes editadas y creaciones completas generadas por IA (como la imagen de arriba). También encontró marcas de agua en las capturas de pantalla de mis imágenes. Un resultado positivo significa que la imagen fue creada o editada usando la aplicación Meta AI o meta.ai“, explica la compañía en una pregunta frecuente. “Un resultado negativo significa que es poco probable que la imagen haya sido procesada usando la aplicación Meta AI o meta.ai”.
Curiosamente, las nuevas capacidades de detección de Meta AI aún no parecen ser parte de la aplicación Meta AI. Cuando le pregunté al asistente basado en la aplicación de Meta sobre las imágenes que la herramienta web identificó como generadas por IA, respondió que no tenía la capacidad de verificarlas. “No puedo decir con certeza si esta imagen específica fue hecha con Meta Al con solo mirarla”, dijo. “Meta Al no pone marcas de agua automáticamente en las imágenes y no tengo una herramienta que pueda detectar qué modelo de Al creó una imagen existente”.
Meta ya ha enfrentado algunas críticas por la forma en que etiqueta e identifica el material generado por IA en sus aplicaciones. La Junta de Supervisión le dijo a la compañía a principios de este año que estaba “preocupada” porque Meta estaba “aplicando de manera inconsistente” marcas de agua digitales al contenido de IA creado por sus propias herramientas.
Sin embargo, esta nueva característica todavía parece tener algunas limitaciones. Content Seal no es compatible con SynthID Content Credentials o C2PA, dos métodos de marca de agua utilizados por otras empresas. La herramienta basada en web no pudo identificar imágenes creadas o editadas con versiones anteriores del modelo AI Meta en mis pruebas. Cuando agrego una imagen creada en un chat antiguo con Meta AI, no puede decirme si la imagen fue creada con su AI. La función también parece, por alguna razón, estar sujeta a las limitaciones de velocidad de Meta. Después de subir algunos ejemplos, me dijeron que había alcanzado el “límite diario de controles de identificación”.
