Este paso atrás, un boletín semanal que analiza una historia importante del mundo de la tecnología. Para obtener más información sobre la ofuscación de la IA, siga a Robert Hart. Paso atrás llegando a las bandejas de entrada de nuestros suscriptores a las 8 a.m. ET. Participar Paso atrás Aquí.
Al principio, los influencers de la IA eran relativamente fáciles de identificar e ignorar. Aparte del ocasional estallido de exageración, la forma en que funcionan las redes sociales no parece haber cambiado mucho. Los primeros influencers virtuales Lil Miquela con sus bordes romos y sus manchas, I con su bob rosa chicle, y Gramo Shudu con su piel perfecta, claramente una producción digital. La colaboración es anunciado con trompeteo. Publicar requiere un estudio, dinero, coordinación y mucho pulido.
A medida que pasó el tiempo, noté que las personas falsas en mi línea de tiempo comenzaron a parecerse cada vez más a otras personas en mi línea de tiempo. Personajes como Emily Pellegrini Y Pastor López acérquese un poco más a la realidad, o al menos a la realidad de que amigos universitarios ricos y que han viajado mucho con los que no mantiene contacto siempre le envían mensajes de texto desde buenos restaurantes y lugares hermosos, o desde Coachella y Wimbledon. No encaja muy bien, pero, claro está, la mayoría de los influencers profesionales tampoco lo son.
Sin embargo, muchas de estas cuentas no son cuentas estándar. López es producto de una agencia creativa española llamada The Clueless, que gestiona varios influencers de IA. El creador Pellegrini, que usa el seudónimo de Profesor EP, me dijo que una vez dirigió al creador Onlyfans. Ahora vende cursos que enseñan a las personas cómo crear sus propios influencers de IA.
Eso es lo que la gente está empezando a hacer. Mucha gente.
La novedad ha pasado. Los primeros influencers de la IA se destacaron porque eran muy pocos. Ahora son parte de un lío mucho mayor de contenido generado por IA que inunda las redes sociales: basura de baja calidad copiada perezosamente de chatbots, imágenes y videos sucios y simplemente tomas calientes. El Señor de los Anillos canción disco que se apoderó de mi TikTok durante un mes.
Ahora hay gente falsa en todas partes. Venden basura en barcos directos, Estafadores sin dinero con fotos falsas.empujar desinformación Y racista puntos de conversación, y atender a un nicho cada vez más extraño y a menudo sexual. Por supuesto que hay Lotes de trampa de sed. También hay mucho contenido regular, solo con avatares. proceso de copiar todo lo que es popular entre los creadores humanos, a menudo es justo ponerle sus caras falsas.
Esto hace que la escala de la influencia de los creadores de contenido de IA sea difícil de medir. La plataforma no publica cifras sobre cuántos de sus usuarios son personas falsas, y la mayoría de los avatares de IA no se han vuelto lo suficientemente populares o influyentes como para justificar el tipo de atención de los medios que han recibido oleadas anteriores. Bases de datos como ciberhombre rastrea cientos de avatares populares, pero esas son sólo las cuentas que son raras, extrañas o lo suficientemente grandes como para llamar la atención. Debajo de ellos hay un mar de cuentas que pasan desapercibidas.
Una de las razones por las que estas cuentas pueden evadir la detección es porque la tecnología utilizada para crearlas ha mejorado enormemente. Las imágenes fijas de personas falsas ahora son lo suficientemente buenas como para ser consideradas genuinas a simple vista, especialmente en feeds llenos de personas influyentes reales que utilizan muchas puestas en escena, filtros y efectos de edición. Rápidamente siguieron el video y el audio, brindando a las personas sonidos y movimientos virtuales que podían engañar a los usuarios inexpertos. Las herramientas tampoco son especiales ni caras. Los productos convencionales de empresas como Google y OpenAI se combinan con servicios especializados de empresas como Higgsfield, HeyGen y ElevenLabs. Con un poco de esfuerzo, casi cualquier persona puede convertirse en un influencer de la IA (o en un grupo de ellos) sin necesidad de un estudio, equipo especial o (mucho) dinero.
Todo esto deja a las plataformas de redes sociales enfrentando problemas que no parecen muy interesados en resolver directamente. Después de varios años de lidiar con imágenes, videos y audio generados por IA, la mayoría de las plataformas principales ahora tienen algún tipo de política que cubre los medios sintéticos. Pero además de exigir etiquetas para el contenido generado por IA, las reglas a menudo hacen poco más que agrupar el material en categorías existentes que incluyen cosas como fraude, spam, suplantación de identidad y material gráfico. Las personas con IA, especialmente aquellas diseñadas para comportarse como personas reales, no encajan en estos grupos. No necesariamente están cometiendo fraude, publicando contenido vulgar o haciéndose pasar por alguien: ¿a quién se harían pasar? Y si revelan que sus publicaciones fueron generadas por IA, no está claro qué reglas estarían infringiendo.
Por ahora, la plataforma parece vivir en la ambigüedad, sin dar la bienvenida ni rechazar plenamente a los creadores de IA. Han desarrollado posiciones contradictorias, promoviendo la IA como una herramienta creativa y al mismo tiempo tratando de detener la marea de agua sucia que inunda sus servicios. YouTube, tiktokInstagram y otras plataformas han desarrollado reglas para etiquetar medios sintéticos, particularmente medios realistas, al tiempo que promueven su propio conjunto de herramientas de inteligencia artificial, incluidas algunas que pueden clonar o simular usuarios. Pero estas reglas tienden a centrarse en publicaciones individuales en lugar de en las cuentas y personas detrás de ellas, lo que deja a los influencers de IA en un área gris.
En medio de esta incertidumbre, el ecosistema de influencers de IA sigue creciendo. Varias empresas de investigación de mercado. estimar El mercado de influencers virtuales podría valer más de 60 mil millones de dólares para 2030, frente a los 12 mil millones de dólares de este año. La influencia cultural también está aumentando. Hay premios a influencers de IA, concurso de bellezadedicado agente de talentos representa a los creadores sintéticos y a un mercado de rápido crecimiento de creadores sintéticos que venden cursos y herramientas que prometen ayudar a las personas a crear y administrar sus propios creadores falsos, a menudo con la promesa de ingresos pasivos sin rostro. Algunos tienen el aroma piramidal de una fiebre del oro en línea, algunas historias de éxito aparente y un montón de gente vendiendo a raudales.
Mi conjetura es que se están realizando cálculos. El agua sucia de la IA ya es molesta, y hay una cantidad limitada de agua que una plataforma puede transportar hasta que se vuelve inutilizable, especialmente porque constantemente se niegan a permitir que los usuarios filtren el agua sucia de la IA. Las personas falsas que fingen ser reales son una versión más íntima del mismo problema. Pero además de etiquetar y hacer cumplir las reglas existentes, la mayoría de las plataformas parecen contentas de ver qué sucede. Para las plataformas, la participación es la participación, ya sea que provenga de creadores falsos o genuinos. Mientras los creadores de contenido sintético sigan publicando y no se desvíen de las reglas existentes, parece haber pocos incentivos para tomar medidas enérgicas.
También hay dudas sobre cuán sostenible está circulando en línea la idea de crear avatares de IA. Si se crea tanto solo para ganar dinero con los usuarios humanos, ¿qué sucede si el grupo de usuarios humanos se agota? Por ejemplo, pocas personas están dispuestas a comprar cursos y herramientas para crear su propio influencer. Esto significa que las redes sociales pueden sobrevivir a la afluencia de personas influyentes en la IA. Por definición, se necesita una gran cantidad de seres humanos para mantener las cosas sociales. Si no se controla, la red colapsará bajo el peso de estas personas falsas, ya que los usuarios humanos inevitablemente serán expulsados.
Esto podría cambiar si la ira pública continúa aumentando. La reacción contra los deepfakes, las suplantaciones y el spam sintético ha obligado a los legisladores y reguladores a prestar más atención, especialmente después de incidentes que involucraron deepfakes sexuales no consensuados generados con herramientas como Grok. La legislación sobre IA en Europa podría ser un impulso, al menos junto con la imposición de obligaciones de transparencia sobre el contenido generado por IA. Eso regulación requeriría que las partes que implementen sistemas de IA generativa revelen claramente el contenido creado o manipulado por IA, lo que podría presionar a las empresas para que aumenten las denuncias de contenido de IA o potencialmente incurrir en fuertes multas. Pero aun así, la atención sigue estando en gran medida en el contenido, no en si la cuenta que lo publica representa a una persona real.
Al igual que ocurre con las redes sociales, la carga la soporta el usuario. Muchas plataformas delegan efectivamente la tarea de moderar el contenido de IA a los usuarios y confían en ellos para reconocer e informar perfiles sospechosos. Pero la automoderación es una respuesta pobre e insostenible a algo diseñado para evitar la atención. Actualmente existe un interés creciente en el espacio libre de IA. Si las plataformas se niegan a trazar la línea entre lo real y lo irreal, espero que los usuarios la tracen.
- Muchas de las personas influyentes en la IA que he conocido recientemente tienen inclinaciones políticas manifiestas, lo que creo que podría acelerar el ajuste de cuentas regulatorio. Danny Bones, un un falso rapero nacionalista blanco financiado por un partido político de extrema derecha En el Reino Unido, este es probablemente el mejor ejemplo que he visto hasta ahora.
- Al igual que los influencers humanos, muchos avatares de IA se construyen en torno a identidades y comunidades específicas, como raza, discapacidad, política y nacionalidad, como las chicas de fantasía MAGA. Jessica Fostereso se apoya fuertemente en la estética sexualizada del Ejército y el trumpismo. No todos los avatares se alinean con sus creadores: el modelo Black AI de Shudu Gram, por ejemplo hecho por gente blanca. Emily Pellegrini también es producto de un hombre, el profesor EP, quien me dijo que el personaje fue creado usando contenido que obtuvo bajo licencia de un creador anónimo de Onlyfans.
- Los últimos titulares de noticias de Jesse Weatherbed para Borde Lo dice todo: “Filtremos el agua sucia de la IA, cobardes”.
- Borde Recientemente se informó que los estafadores están utilizando avatares de inteligencia artificial de personas negras falsas para vender productos producidos en masa mediante envío directo a precios inflados en las redes sociales.
- Cable reportado sobre la floreciente industria del “Proxenetismo de IA”, donde avatares de IA roban y monetizan el contenido de los creadores humanos sin su permiso.
- Podcasts de Charlie Warzel comprobado los incentivos detrás de la proliferación de influencers de IA y el cansancio que muchas personas sienten cuando se trata de pensar si lo que consumimos ya es real o no.
