Discord ha admitido que un error en su sistema de moderación de IA prohibió por error a más de 8.000 usuarios en los últimos dos meses, después de que imágenes inocuas (incluidas hojas de cálculo, tableros de ajedrez, texturas de juegos y fondos transparentes blancos y grises) fueran marcadas incorrectamente como contenido malicioso.
La compañía confirmó que el problema había estado afectando a las cuentas desde mayo, y 200 usuarios adicionales fueron prohibidos durante el fin de semana antes de que su equipo identificara y solucionara el problema. Todas las cuentas afectadas se encuentran actualmente en el proceso de recuperación.
El incidente pone de relieve uno de los crecientes desafíos en torno a la moderación asistida por IA, ya que muchas plataformas dependen cada vez más de sistemas automatizados para identificar material ilegal o abusivo a escala.
En un hilo detallado sobre incógnitaDiscord explica que su sistema de seguridad automatizado funciona comparando el contenido subido con una base de datos de material dañino conocido. Si bien esta tecnología está diseñada para detectar contenido ilegal, la empresa admite que a veces puede producir falsos positivos. Los moderadores humanos revisaron el contenido, pero un error provocó que el sistema prohibiera inmediatamente las cuentas afectadas.
“Estamos trabajando para mejorar las salvaguardias para evitar que esto vuelva a suceder”, escribió la empresa.
Nuestros sistemas marcan el contenido comparándolo con material dañino conocido. Este tipo de coincidencia de similitudes puede generar falsos positivos, por lo que un miembro de nuestro equipo de Confianza y Seguridad siempre revisa el contenido marcado antes de tomar cualquier medida.
El comportamiento en cuestión es…
– Soporte de discordia (@discord_support) 7 de julio de 2026
en x y redditLos usuarios afirman que han sido suspendidos permanentemente simplemente por subir una imagen que contiene un patrón de cuadrícula cuadrada. Algunos usuarios especulan que las herramientas de moderación de IA de Discord se han vuelto cada vez más sensibles a patrones similares a cuadrículas porque anteriormente se habían utilizado en un esfuerzo por ocultar o disfrazar contenido NSFW y de explotación infantil de los sistemas de detección automatizados.
Los usuarios afectados han expresado su frustración en las redes sociales, y algunos argumentan que las prohibiciones permanentes de cuentas basadas únicamente en la detección automática podrían tener consecuencias graves, especialmente para los usuarios que dependen de Discord para trabajar, comunidades de juegos o conexiones sociales remotas.
“Perder una cuenta de Discord debido a algo injusto como esto puede ser muy perjudicial y afectar gravemente a los usuarios, y cada día, millones de usuarios se ven afectados por falsas prohibiciones de IA. Esto debe terminar”, dijo un usuario de X. escribir.
Mi cuenta fue prohibida ilegalmente en su plataforma debido a un error en su IA automod que detectó mis TEXTURAS DE JUEGO como CSAM. Necesito recuperar mi cuenta porque soy director de juegos y uso Discord para todas mis comunicaciones. He solicitado una revisión de mi suspensión.@disputar @discord_support pic.twitter.com/QfAkCIJo6S
— JDBRYANT 🎂 HOY (@jdbryantdev) 4 de julio de 2026
Discord no es el único que enfrenta problemas de moderación debido a los sistemas automatizados. El año pasado, los usuarios de Grupos de Instagram y Facebook informaron suspensiones generalizadas de cuentas sin motivo aparente, que muchos creyeron que fue causada por sistemas de moderación de IA. Aunque los usuarios mencionaron la automatización como una posible causa, Meta nunca confirmó públicamente si la causa era un error de IA. Ahora, la Junta de Supervisión Meta está presionando para lograr una mayor transparencia.
El año pasado, Tumblr también enfrentó quejas de usuarios que dijeron que sus cuentas habían sido suspendidas en masa sin una explicación clara.
Cuando compra a través de enlaces en nuestros artículos, es posible que ganemos una pequeña comisión. Esto no afecta nuestra independencia editorial.
