En este momento, Los principales laboratorios de IA están compitiendo para construir modelos escalables internamente. Algunos creen que este es el camino más seguro hacia la superinteligencia: a medida que la IA avanza en un ciclo alucinante, se piensa que eventualmente superará la comprensión humana (y tal vez incluso el control).
Todo está bien, pero tengo que hacer un boletín. Me pregunto si la superación personal recursiva también me sería útil. ¿Puedo usar IA para entrenar y mejorar continuamente modelos que automaticen parte de este trabajo de boletines?
Después de aproximadamente una semana de experimentación, la respuesta parece ser un rotundo y sorprendente sí. Es más, incursionar en modelos de superación personal sugiere una visión diferente de cómo puede desarrollarse la IA, una visión que no se centra en un puñado de empresas que controlan industrias enteras.
Empecé probando un sencillo círculo de superación personal.
Para empezar, experimenté entrenando un pequeño modelo de lenguaje desde cero, es decir, dejé todo el trabajo duro en manos de Claude.
yo instalé Investigación automatizadalo que ayuda a los modelos de IA listos para usar a construir y mejorar modelos más pequeños. AutoResearch es una creación de Andrej Karpathy, un investigador superestrella de IA que ayudó a fundar OpenAI, dirigió el trabajo de IA en Tesla y recientemente unirse Antrópico.
Encendí a Claude y le di las instrucciones recomendadas: “¡Oye, mira program.md y comencemos un nuevo experimento!” Mientras Claude hacía las cosas difíciles, yo proporcioné el silicio (Nvidia DGX, una “supercomputadora” de escritorio diseñada para experimentos de IA), la electricidad (caliente durante varios días seguidos) y una disposición tal vez imprudente a dejar que el modelo pasara todos los controles de autorización habituales para hacer su trabajo (¡déjelo cocinar!).
Revisé el proyecto AutoResearch cada pocas horas y me sorprendí cuando Claude ajustó los parámetros y el régimen de entrenamiento, viendo cómo esto cambiaba el resultado de los modelos más pequeños y mejorándolos continuamente.
Esto es lo que produjo una versión inicial más pequeña del modelo de lenguaje cuando le pedí que completara una frase. “En primer lugar…”
No muy brillante. Pero los modelos posteriores, mejorados independientemente por Claude, se volvieron más coherentes y menos propensos a repeticiones locas e interminables. No es GPT-5, pero muestra un camino prometedor hacia la mejora continua.
Mi viaje continuó con algo más complejo y gratificante
Ya estaba usando un agente que confiaba en Claude para ayudarme a encontrar trabajos de investigación importantes, así que decidí ver si era posible construir algo más que eso.
Recurrí a una herramienta de una startup llamada Sentido primarioque utiliza IA para entrenar modelos específicos para tareas específicas. Recopilé unas 100 entradas anteriores de “En otros lugares de la frontera de la IA”, investigaciones que siguen al ensayo principal de mi boletín. Luego, creé el entorno de capacitación Prime Intellect y le pedí a Claude que me ayudara a construir mi propio modelo, denominado Frontier_Paper_Curator, para encontrar y resumir artículos interesantes.
Claude encontró más artículos y generó una gran cantidad de datos sintéticos para ayudar con la capacitación. Luego aprovecharon otro modelo para evaluar el resultado de Frontier_Paper_Curator, mientras que el entorno de capacitación también mejoró el modelo con aprendizaje reforzado.
