“Teniendo en cuenta la imagen deepfake en sí misma, ya que seguirá siendo confidencial, no existe ninguna estigmatización con respecto a revelar el hecho de que se creó una imagen deepfake de Doe de Carolina del Sur sin revelar la imagen en sí”, escribieron los abogados en una de sus presentaciones del 15 de mayo. “Como resultado, este caso no involucra el tipo de intereses de privacidad convincentes que tradicionalmente se piensa que requieren seudonimización”.
Ni xAI ni los abogados que representan a la empresa respondieron a la solicitud de WIRED de comentar sobre el caso.
Danielle Citron, profesora de derecho de la Facultad de Derecho de la Universidad de Virginia que se especializa en abordar el abuso digital, dijo que los casos civiles en los que se ordena a las personas demandar utilizando sus nombres reales pueden dar lugar a que se abandonen las demandas, creando una situación “inaceptable e injusta”. “Obligar a los demandantes en demandas de privacidad a presentar demandas en su nombre contribuye poco a mejorar la transparencia judicial y dificulta enormemente los litigios”, dijo Citron a WIRED.
Los cuatro demandantes seudónimos en el caso, según su presentación legal del 29 de mayo, considerarían abandonar el proceso si sus nombres fueran revelados. En esta última presentación, los abogados de los demandantes decir La solicitud de xAI debería ser denegada, y agregó que el caso trata sobre “un deepfake extremadamente privado y vergonzoso que representa a los demandantes y que se difundió sin su consentimiento”.
South Carolina Doe describió cómo descubrieron en línea un supuesto deepfake de ellos “desnudados hasta la parte inferior del bikini” y dijo que mostraba su cuerpo “de una manera que nunca compartiría públicamente”. Dijeron que estaban preocupados por lo que pensarían sus empleadores o colegas si vieran las imágenes, y temían ser atacados aún más en línea. “También me da asco pensar lo que hizo la persona que le pidió a Grok que hiciera un deepfake con la foto”, escribieron.
“Si me veo obligado a revelar mi nombre públicamente como parte de este caso, temo que aquellos que apoyan a Elon Musk, su compañía y a Grok, a quien he observado que habla mucho en línea, encontrarán mi nombre en el registro público, lo difundirán, me denunciarán y tomarán represalias contra mí creando cada vez más deepfakes extremos sobre mí”, afirma el documento.
Declaraciones similares de otras presuntas víctimas de deepfake describieron que experimentaron “angustia emocional grave”, vergüenza y conmoción al ver imágenes creadas sin su consentimiento. En general, las víctimas de acoso sexual falso y otras imágenes no consensuadas sienten lo mismo.
Un hombre, llamado New Jersey Doe en la demanda, dijo que vio a personas en X usando Grok para crear imágenes sexuales y publicó una solicitud de que “Grok no cree imágenes mías sin mi consentimiento”. Al día siguiente, según los registros judiciales, encontró dos imágenes falsas de ella, incluida una que la mostraba “abriendo las nalgas”. Dijo que cree que los mensajes a Grok pidiéndole que no creara deepfakes de sí mismo “llamaron la atención de mi cuenta sobre trolls en línea que utilizaron a Grok para acosar y causar angustia”.
