La clase xAI incluye a todos los estadounidenses cuyas “imágenes reales de menores” fueron alteradas usando Grok “para producir imágenes o videos de conducta o contenido sexualmente explícito con sus rostros y/u otras características distintivas razonablemente identificables”. Y la clase Stability AI incluye a personas estadounidenses que también experimentaron daños similares al usar “aplicaciones creadas en base al modelo Stability AI”.
Los abogados estiman que miles de menores pueden ser elegibles para la demanda colectiva y continúan buscando víctimas perjudicadas por AI CSAM.
El NCMEC no respondió a la solicitud de comentarios de Ars.
Sin embargo, el grupo ha pedido a las plataformas, legisladores, organizaciones de seguridad infantil y autoridades policiales que trabajen juntos para abordar la “creciente urgencia de una acción coordinada”.
En marzo, NCMEC ser advertido de un “fuerte aumento” en los “informes generativos relacionados con la IA” (GAI) para 2025. Según el NCMEC, el año pasado se realizaron más de 1,5 millones de informes CyberTipline, “lo que indica una conexión con la GAI y la explotación sexual de niños”. Es preocupante que en más de 133.000 casos, el NCMEC “careciera de información suficiente para determinar cómo se utilizó la tecnología”.
El informe no menciona X o xAI, pero sugiere que las empresas de IA tienden a evitar compartir información sobre IA CSAM que la policía podría utilizar para realizar arrestos. En otro ejemplo, el NCMEC señaló que el servicio de inteligencia artificial de Amazon entregó la mayoría de las pistas (1,1 millones), y ninguna de esas pistas proporcionó “información procesable” que pudiera ser utilizada por las fuerzas del orden para identificar a los perpetradores.
A medida que aumenta el escrutinio del daño que las empresas de IA están causando a los niños, los defensores esperan que las empresas refinen los modelos para bloquear toda desnudez. Las chicas que demandaron
En un comunicado de prensa, una de las abogadas que representa a los menores, Annika K. Martin, criticó a xAI y Stability AI por supuestamente construir intencionalmente modelos “capaces de producir CSAM falsos”, con “total desprecio por la destrucción que sabían que ocurriría”.
“El CSAM generado por IA es un flagelo para la sociedad que afecta a todas las comunidades y grupos demográficos”, dijo Martin. “La magnitud del daño es enorme y las empresas cuyos productos lo hicieron posible deben rendir cuentas”.
