El jueves, en un tribunal federal de California, Elon Musk testificó que su startup de inteligencia artificial, xAI, ha utilizado modelos OpenAI para mejorar sus modelos.
La cuestión en cuestión es la destilación de modelos, una práctica industrial común en la que un modelo de IA más grande actúa como un “maestro” para transmitir conocimientos a un modelo de IA más pequeño, el “estudiante”. Si bien a menudo se utiliza legítimamente en empresas que utilizan uno de sus modelos de IA para entrenar otro modelo, a veces la práctica también la utilizan laboratorios de IA más pequeños para intentar que sus modelos imiten el rendimiento de los modelos de competidores más grandes.
Cuando se le preguntó en el stand si conocía el modelo de destilación, Musk dijo que usaría un modelo de IA para entrenar otro modelo. Cuando se le preguntó si xAI había perfeccionado la tecnología de OpenAI, Musk pareció eludir la pregunta y dijo que “en general, todas las empresas de IA” hacen algo así. Y cuando se le preguntó si la respuesta era sí, respondió: “Algunas”.
Cuando se le presionó, Musk dijo: “Es una práctica estándar utilizar otra IA para validar la suya”.
La destilación de modelos está en aumento y ha provocado más controversia entre los laboratorios de IA en los últimos años, ya que los límites de lo que es legal (y lo que viola los términos o políticas de una empresa en particular) a menudo caen en un área gris. Empresas como OpenAI y Anthropic han acusado a las empresas chinas de destilar sus modelos con OpenAI. declarado abiertamente sus preocupaciones sobre DeepSeek y Anthropic mencionaron específicamente a DeepSeek, Moonshot y MiniMax. Google también tiene uno pasos tomados para tratar de prevenir lo que llama “ataques de destilación” o “métodos de robo de propiedad intelectual que violan los términos de servicio de Google”.
En el propio Anthropic publicación de blog Sobre este tema, la compañía escribió: “La destilación es un método de capacitación legítimo y ampliamente utilizado. Por ejemplo, los laboratorios de inteligencia artificial de vanguardia rutinariamente destilan sus propios modelos para crear versiones más pequeñas y más baratas para sus clientes. Pero la destilación también puede usarse con fines ilícitos: los competidores pueden usarla para adquirir capacidades avanzadas de otros laboratorios en menos tiempo y a menos costo de lo que tomaría desarrollarlas de forma independiente”.
