Durante los últimos cinco años, la Junta de Supervisión de Meta ha considerado todo, desde la suspensión de Facebook por parte de Donald Trump hasta los deepfakes de IA. Ahora la junta enfrenta otro tema espinoso: las reglas de Meta para desactivar cuentas de usuario.
El consejo anunció a principios de este año que trabajaría para aumentar la transparencia en torno al proceso, que a menudo es opaco. El grupo de vigilancia investigó el asunto tras una referencia de Meta sobre una cuenta de Instagram con 70.000 seguidores que fue bloqueada tras realizar publicaciones amenazantes dirigidas a un periodista.
En su decisión, la Junta de Supervisión dijo que Meta tenía razón al prohibir las cuentas, pero el caso planteó “serias dudas” sobre cómo la empresa manejó el comportamiento y “cuestiones de debido proceso” en torno a cómo se desactivaron las cuentas. Debido a que se trataba de un caso de prueba, la junta no hizo recomendaciones formales a Meta, aunque destacó una serie de mejoras potenciales. El análisis también destaca las reglas y sanciones confusas que llevaron a la prohibición de la plataforma Meta, y la cantidad de frustración que causó a los usuarios.
Por ejemplo, la junta señaló que Meta tiene procesos muy diferentes para Facebook e Instagram. Si bien ambas plataformas penalizan las cuentas con “avisos”, los ataques repetidos pueden tener resultados diferentes. En Facebook, las cuentas pueden recibir una suspensión temporal por infracciones repetidas antes de ser prohibidas inmediatamente. Pero no existen tales sanciones en Instagram, dijo la junta. En cambio, Meta restringe las cuentas de la función de transmisión en vivo de Instagram o eliminará sus cuentas de las recomendaciones (lo que los usuarios de Instagram a menudo llaman “shadowban”).
La Junta de Supervisión señaló acertadamente lo extraño que es que limitar la transmisión en vivo sea una de las principales sanciones “medianas” en Instagram cuando la función ni siquiera está disponible para todas las cuentas (requiere un mínimo de 1000 seguidores). “Para infracciones en publicaciones permanentes, las sanciones que se relacionan directamente con la infracción de comportamiento al suspender la capacidad de un usuario para publicar (por ejemplo, colocando su cuenta en modo de solo lectura durante un período de tiempo) tendrán una mayor probabilidad de influir en el comportamiento”, señaló la junta.
La junta también abordó la frustración latente desde hace mucho tiempo entre los usuarios de Facebook e Instagram cuyas cuentas fueron desactivadas. El grupo dijo que recibió más de 750 comentarios públicos sobre el caso, además de las “innumerables” quejas que los miembros de la junta reciben con frecuencia de personas cuyas cuentas han sido desactivadas.
“Muchos comentaristas escribieron sobre fallas del sistema, diciendo que no pudieron apelar la decisión de Meta de desactivar sus cuentas, que nunca recibieron una explicación de por qué sus cuentas fueron desactivadas o que no pudieron descargar su contenido”, escribió la junta. “Muchos de estos usuarios también notaron que las decisiones parecían tomarse automáticamente, sin supervisión humana, incluso cuando apelaban a desactivaciones de cuentas de larga data y ampliamente seguidas”.
En su orientación a Meta, la junta sugirió que la empresa proporcione a los usuarios un mejor proceso de apelación que les permita dar explicaciones por escrito y que se les notifique cuando se utilice IA para penalizar sus cuentas. La Junta propuso que se pudiera agregar información sobre las prohibiciones de cuentas al informe de transparencia Meta para mayor visibilidad. El grupo también sugirió que Meta proporcione un canal exclusivo a través del cual “objetivos de violencia de alto riesgo y sus representantes” puedan denunciar amenazas graves en su contra.
Dado que el caso fue descrito como un “piloto”, no está claro si Meta planea realizar cambios sustanciales en sus políticas en respuesta a las críticas de la junta. Pero todavía hay esperanza para aquellos que quieren que Meta realice mejoras. La junta dijo que planea aceptar más casos en el futuro relacionados con desactivaciones de cuentas, lo que espera les dé una mejor oportunidad de influir en algunas reformas.
