En un experimento reciente, Anthropic creó un mercado secreto donde agentes de IA representan a compradores y vendedores, realizando transacciones reales con bienes reales y dinero real.
La empresa reconoció Esta prueba, llamada Project Deal, fue simplemente un “experimento piloto con un grupo de participantes autoseleccionados” formado por 69 empleados de Anthropic a quienes se les dio un presupuesto de 100 dólares (pagados mediante tarjetas de regalo) para comprar productos de sus compañeros de trabajo.
No obstante, Anthropic dijo que estaba “sorprendido por lo bien que funcionó Project Deal”, con 186 acuerdos realizados, por un total de más de 4.000 dólares.
La compañía dice que en realidad opera cuatro mercados separados con diferentes modelos: uno “real” (donde todos están representados por el modelo más avanzado de la compañía y con acuerdos alcanzados después de pruebas) y otros tres para estudio.
Aparentemente, cuando los usuarios están representados por modelos más sofisticados, obtienen “resultados objetivamente mejores”, dijo Anthropic. Pero los usuarios no parecen ser conscientes de la diferencia, lo que plantea la posibilidad de una “brecha en la ‘calidad del agente'” donde “las personas que están en desventaja pueden no darse cuenta de que están en peores condiciones”.
Además, las instrucciones iniciales dadas al agente no parecen afectar la probabilidad de una venta o el precio negociado.
