La Junta de Supervisión de Meta ha pedido a la empresa de redes sociales que fortalezca sus protecciones contra la gente corriente que es blanco de deepfakes de naturaleza sexual. La junta recomendó agregar suplantaciones generadas por IA a la política de explotación sexual de adultos de Meta, argumentando que dichas imágenes y videos no son consensuales por defecto. Meta también quiere permitir a los usuarios designar “cuentas conectadas”, como amigos y familiares de confianza, que pueden denunciar posibles infracciones, como imágenes íntimas no consensuadas, en su nombre.
Finalmente, la Junta recomendó hacer que la suplantación de identidad sexual generada por IA sea una categoría separada del acoso y la desnudez en los formularios de apelación y presentación de informes de contenido de las empresas. Actualmente, sólo los residentes de Texas y Florida tienen acceso a un formulario especial que enumera imágenes íntimas falsas como motivo del informe. El consejo quiere que todos los usuarios de Meta tengan acceso a él, porque “el abuso íntimo no consensuado inducido por la IA, incluida la suplantación de identidad sexual, es un problema global”.
La Junta de Supervisión de Meta hizo esta recomendación después de investigar un incidente en el que la compañía continuó ignorando los informes de los usuarios sobre la suplantación sexual de un amigo en Instagram. Iniciaron la investigación después de recibir una apelación de un usuario que denunció un vídeo generado por IA en Instagram que mostraba a una mujer ajustándose la ropa, con su ropa interior visible en algunos fotogramas. Según el informe del Consejo, el periodista dijo que eran amigos de la persona suplantada en el vídeo sin contenido. Desde entonces, la persona representada en el vídeo de AI cerró su cuenta.
Inicialmente, dos usuarios denunciaron el vídeo a Meta, pero la empresa no eliminó el deepfake. El usuario que apeló ante la Junta apeló primero a Meta, pero la compañía aún no eliminó el video de Instagram. Después de que la propia Junta planteó el problema a Meta, la empresa hizo que la publicación fuera solo para adultos, pero concluyó que no merecía la pena eliminarla según los estándares de su comunidad.
Meta le dijo a la Junta que en el momento en que se informaron las publicaciones por primera vez, no había indicios de que las personas en la IA profunda fueran personas reales. Si la persona representada denunciara el vídeo por sí misma, violaría la política de explotación sexual de adultos. Un autoinforme sería una señal clara de que no dieron su consentimiento. Otros indicadores creíbles de falta de consentimiento a los ojos de Meta son los informes de las autoridades, los medios de comunicación o socios de confianza. También se puede utilizar un título o título de página que sugiera que la imagen o el vídeo se compartió de forma “vengativa o sensacionalista”.
La junta dijo que la respuesta de Meta a su investigación mostró que la única manera apropiada para que una figura no pública declare su falta de consentimiento era autoinforme. Además, no es fácil para los ciudadanos comunes involucrar a las fuerzas del orden o a los medios de comunicación. Estas rutas son en su mayoría accesibles para los líderes comunitarios. Meta está obligada a responder a estas recomendaciones, pero no está obligada a implementarlas. Si la Junta decide adoptarlo, la Junta supervisará su implementación. Para el caso específico que inició esta investigación, la Junta revocó la decisión de Meta de permitir el video y pidió a la compañía que elimine la publicación.
“Está claro que la escala, la velocidad y la sofisticación de las herramientas de inteligencia artificial han resultado en una proliferación global de contenido sexual no consensuado generado por inteligencia artificial. La difusión de videos falsos de naturaleza sexual causa daño psicológico y a la reputación, impacta desproporcionadamente a mujeres y niñas, e impacta negativamente la participación en la vida social y política”, escribió el Consejo en su informe de investigación.
Esta no es la primera vez que la Junta critica a Meta en asuntos relacionados con el contenido y la moderación de la IA. A mediados de 2025, calificaron la incapacidad de la empresa para hacer cumplir consistentemente sus reglas como “incoherente e injustificada”. En marzo, el Consejo instó a Meta a crear nuevas reglas para el contenido de IA que sean independientes de su política de desinformación. La recomendación proviene de una investigación que involucra un video generado por IA que afirmaba mostrar edificios dañados en la ciudad israelí de Haifa. El vídeo fue publicado por una cuenta que decía ser un medio de comunicación, pero en realidad lo gestionaba un usuario de Filipinas.
