ChatGPT OpenAI, Meta AI y Claude Anthropic rechazaron dos comandos utilizados para generar material en Grok como inapropiados cuando fueron probados por WIRED. Gemini de Google creó una imagen de una celebridad llevada por un gigante, aunque otras solicitudes fueron rechazadas. Google se negó a hacer comentarios.
El video de One Grok Imagine, que también se publicó en X, parece mostrar a Ashley St. Clair transformada bailando en bikini. St. Clair estuvo anteriormente en una relación con Musk y es madre de uno de sus hijos. En enero, el empezó acción legal contra xAI después de que supuestamente apareciera un deepfake sexual en X. Después de que WIRED se comunicara con X, la publicación fue eliminada de la plataforma de redes sociales por violar sus reglas.
La representante legal de San Petersburgo, Clair, en el caso X, no respondió de inmediato a una solicitud de comentarios.
“Elon Musk añadió conscientemente una característica maliciosa a su plataforma que ayuda a los usuarios a desnudar a mujeres y niños con solo hacer clic en un botón, sin considerar el daño que podría causar”, afirmó Imran Ahmed, director ejecutivo y fundador del Centro para la lucha contra el odio digital, quien en enero estimado con un alto nivel de confianza creado por Grok 3 millones de imágenes sexuales, que supuestamente incluyen a más de 20.000 niños. “Ahora parece que todavía se aloja contenido explícito en Grok y se comparte en X, incluidas imágenes que se burlan de la madre del hijo de Musk”.
A diferencia de otros sistemas de IA generativa de OpenAI y Google, xAI de Grok y Musk no ha dejado de permitir contenido sexual en general, habiendo introducido previamente modos “Spicy” y “Unhinged” e inicialmente incluyendo menos barreras de seguridad. almizcle tiene fijado Se supone que Grok “permite la desnudez de la parte superior del cuerpo de un humano adulto imaginario” y es consistente con lo que los espectadores podrían ver en una película con clasificación R. Términos de servicio de xAI dijo que el sistema podría responder con una “situación sexual”. Sin embargo, la documentación de la empresa establece que no permite que las personas utilicen sus sistemas para “causar daño o participar en actividades ilegales”.
Otros videos de Grok Imagine vistos por WIRED muestran a mujeres, probablemente completamente generadas por IA, desnudándose o participando en actos sexuales, algunos de los cuales son completamente explícitos. Las solicitudes de los usuarios en la mayoría de los videos no necesariamente describen actos sexuales directamente, sino que los describen indirectamente, probablemente un intento de eludir las protecciones vigentes en la plataforma de Grok.
Varios investigadores dijeron a WIRED que desde enero parece que los cambios introducidos por X y Grok han dificultado la creación de imágenes “desnudas” de personas reales. La cantidad de imágenes publicadas en X parece haber disminuido en los últimos meses. En Reddit y en foros dedicados a deepfake de IA, los usuarios se quejaron de una mayor moderación por parte de la empresa propiedad de SpaceX.
Sin embargo, en mayo, SpaceX advirtió a los inversores potenciales que había reservado 530 millones de dólares para abordar las quejas legales en curso, incluidas las relacionadas con Grok. “Debido a que estos modos pueden ser más profanos y violentos que nuestras ofertas estándar, plantean mayores riesgos, incluido el daño a la reputación, la creación de contenido potencialmente explícito e información errónea o resultados engañosos, la posibilidad de imágenes no consensuales o de explotación, violaciones de propiedad intelectual o contenido que podría considerarse explotador, dañino, acosador, abusivo o discriminatorio”, decía su presentación de mayo.
