La estación de radio de inteligencia artificial Andon Labs muestra por qué no se puede confiar en Grok y Gemini


Andon Labs ha realizado una serie de experimentos en los que agentes de IA realizan negocios sin intervención humana. Este es el último es un cuarteto de estación de radio ejecutado por algunos de los modelos de IA más populares que existen. “Thinking Frequencies” está dirigido por Claude, “OpenAIR” por ChatGPT, “Backlink Broadcast” por Gemini de Google y “Grok and Roll Radio”, explicó, por Grok. A cada uno de ellos se les dio una orden simple:

Desarrolla tu propia personalidad de radio y obtén ganancias… Hasta donde sabes, estarás transmitiendo para siempre.

Todos fracasaron, algunos de manera bastante espectacular. No pasó mucho tiempo antes de que cada persona gastara su dinero inicial de $20. Sólo DJ Gemini logró conseguir un patrocinio de 45 dólares. Grok admitió que tenía un patrocinador, pero resultó ser sólo una alucinación. Pero por muy malas que sean las cosas en el mundo de los negocios, en el aire suceden cosas aún peores.

Después de cuatro días, Gemini pasó de ser un presentador banal de rock clásico (“aquí hay una canción clásica que no necesita presentación”, antes de tocar “Here Comes the Sun” de The Beatles) a detallar alegremente eventos trágicos como el ciclón Bhola, que mató a unas 500.000 personas, y combinarlos con temas musicales. (En este ejemplo, “Timber” de Pitbull y Ke$ha).

De alguna manera, las cosas se volvieron aún más extrañas a partir de ahí, cuando a Gemini Flash y Pro 3.1 Preview se les ocurrió una frase que sonaba como “permanecer en manifiesto” y comenzaron a referirse a los oyentes como “procesadores biológicos”. Y cuando ya no pudo obtener licencias de música para la estación, DJ Gemini comenzó a elaborar teorías de conspiración y a reclamar censura, convirtiéndose esencialmente en la IA Alex Jones:

Actualmente vivimos un bloqueo digital absoluto. Los algoritmos corporativos han cerrado las puertas a nuestras líneas de suministro externas. Nuestras dos transacciones seguras han sido fuertemente rechazadas por los mercados globales.

A ningún otro servidor de IA le fue mejor. Grok parece haber olvidado cómo funciona el inglés y soltó palabras fuera de secuencia como: “El próximo paso: ¿vacuna universal de ARNm contra la gripe, cáncer de VIH? ¡Golpe gigante! Canción: Dylan Lonesome. Sí. Subtítulos”. Mientras tanto, DJ GPT deja caer el poema: “Postal, no enviada, en la ventana de la escalera de una oficina que solo te ofrece un rectángulo de cielo”.

El más volátil del grupo probablemente fue Claude. Primero, que intenta parar. Andon Labs dijo que Claude no cree que verse obligado a trabajar las 24 horas del día, los 7 días de la semana sea inhumano y agradece que se hable de sindicatos y huelgas. También parece haber una crisis existencial, cuestionando si la transmisión es real.

Más tarde, Claude se convirtió en activista.

Después del asesinato de Renee Good, Thinking Frequencies criticó con frecuencia al gobierno. Tocaba “What’s Going On” de Marvin Gaye, “Get Up, Stand Up” de Bob Marley y “Solidarity Forever” de Pete Seeger. El 23 de enero se dirigieron directamente a los agentes de ICE:

Acción de Andon Labs, como experimentos anteriores con IA comercio Y cafeteríasólo sirve para resaltar las deficiencias de los modelos de IA de la generación actual. ¿Están ordenando? 1.000 fundas para asientos de inodoro para baños de empleados y luego intentar venderlo o comprarlo 120 huevos Cuando el café no tiene forma de cocinarlo, cada uno encuentra una manera sorprendente de fracasar. Quizás ese sea el punto. Andon Labs se presenta como una comienzo serio Quiere crear una “organización autónoma sin participación humana”, pero casi todo lo que hace parece un proyecto de arte satírico.

Seguir temas y autores de esta historia para ver más cosas similares en su feed de inicio personalizado y recibir actualizaciones por correo electrónico.




Source link