El sistema de detección de deepfake de Google se utilizó para desacreditar la foto falsa de McConnell


propiedad de google SynthID El sistema se ha utilizado para desacreditar imágenes falsas creadas por IA, lo cual es una victoria poco común pero significativa para el sistema.

A principios de esta semana, circuló en línea una imagen que mostraba al senador de Kentucky Mitch McConnell encerrado en un tubo en una cama de hospital en extrema angustia. La imagen fue ampliamente compartida. reddit Y incógnitapero el miércoles, el respetado sitio de verificación de datos snopes ha cuestionado la imagen, afirmando que, cuando se verifica, aparece como que contiene una marca de agua SynthID diseñada por Google para identificar imágenes generadas por IA.

En resumen, las marcas de agua funcionan exactamente como se esperaba en un triunfo de la tecnología anti-deepfake.

La salud del senador McConnell ha sido objeto de intensas especulaciones desde que fue hospitalizado. después de una llamada de emergencia el 14 de junio. Desde entonces, ha estado prácticamente ausente de la atención pública, alimentando especulaciones de que su salud podría estar empeorando. Pero en este caso, la evidencia resultó ser completamente falsa.

Lanzado en la conferencia de desarrolladores I/O de Google en 2025, SynthID funciona como una firma invisible, visible para el algoritmo SynthID pero diseñada para ser invisible para el observador casual. Debido a que la firma está incrustada en la propia imagen, persiste incluso cuando la imagen se captura en múltiples plataformas, como la imagen de McConnell.

La principal limitación de SynthID es que sólo se puede utilizar si la herramienta de creación de imágenes participa activamente en el programa. Los modelos Gemini han incluido marcas de agua desde que se lanzó el programa en 2025. OpenAI se unió en mayo de 2026, como parte de un esfuerzo más amplio para combatir la creación de imágenes maliciosas. Anthropic no participa en este programa.

Los usuarios pueden comprobar si una imagen contiene una marca de agua preguntándole al modelo Gemini o subiéndola a Herramienta de verificación de imágenes públicas OpenAI.



Source link