OpenAI y Anthropic han estado recientemente en pie de guerra contra los esfuerzos de terceros para entrenar nuevos modelos de IA haciendo que sus chatbots y API sean accesibles públicamente, un proceso conocido como “destilación”.
La conversación se centró en las empresas chinas que utilizan la destilación para crear modelos de peso abierto que son casi tan capaces como los productos estadounidenses, pero disponibles a un costo mucho menor. Sin embargo, los trabajadores tecnológicos suponen en general que los laboratorios estadounidenses están utilizando estas técnicas entre sí para evitar quedarse atrás de sus competidores.
Ahora sabemos que esto es cierto al menos en un caso: durante una audiencia en un tribunal federal de California el jueves, se le preguntó a Elon Musk si xAI había utilizado técnicas de destilación en modelos OpenAI para entrenar a Grok, y confirmó que era una práctica común entre las empresas de IA. Cuando se le preguntó si eso significaba “sí”, dijo: “Algunos”.
Musk está en el proceso de demandar a OpenAI, al director ejecutivo Sam Altman y a Greg Brockman, alegando que violaron la misión original sin fines de lucro de OpenAI al cambiar la entidad a una estructura con fines de lucro. El juicio comenzó esta semana con el testimonio del líder tecnológico.
La admisión de Musk es importante porque la destilación amenaza a los gigantes de la IA al socavar las ganancias que han obtenido al invertir en infraestructura informática. Esto permite a otros fabricantes de software crear modelos con capacidades similares a precios bajos. Hay una considerable ironía en esto, dada la flexión y la supuesta violación de las normas de derechos de autor por parte de los laboratorios fronterizos en su búsqueda de datos suficientes para entrenar sus modelos.
No sorprende que la xAI de Musk, que comenzó en 2023, unos años después de OpenAI, intentara aprender de los líderes en su campo en ese momento. No está claro si la destilación es claramente ilegal, pero puede violar los términos de servicio que las empresas establecen para los usuarios de sus productos.
OpenAI, Anthropic y Google tienen reportado lanzó una iniciativa a través del Frontier Model Forum para compartir información sobre cómo combatir los esfuerzos de refinación de China. Esto suele implicar una consulta sistemática del modelo para comprender cómo funciona el modelo. Para detener tales esfuerzos, los laboratorios fronterizos están trabajando para evitar que los usuarios realicen consultas masivas sospechosas.
OpenAI no respondió a una solicitud de comentarios sobre la admisión de Musk al cierre de esta edición.
Más adelante en su testimonio, se le preguntó a Musk sobre las afirmaciones que hizo el verano pasado de que xAI pronto superaría a cualquier empresa que no fuera Google. En respuesta, clasificó a los principales proveedores de inteligencia artificial del mundo y dijo que Anthropic ocupaba el primer lugar, seguido de OpenAI, Google y el modelo de código abierto de China. Caracterizó a xAI como una empresa mucho más pequeña con sólo unos pocos cientos de empleados.
Cuando compra a través de enlaces en nuestros artículos, es posible que ganemos una pequeña comisión. Esto no afecta nuestra independencia editorial.
