El principal futurista de OpenAI, Joshua Achiam dijo a sus colegas el martes que dejará la empresa a finales de este mes después de casi nueve años, según se enteró WIRED. Achiam, quien anteriormente dirigió el equipo encargado de defender la misión sin fines de lucro de la organización, le dijo al personal de OpenAI que su partida no fue motivada por ningún motivo en particular, sino que era algo en lo que había estado pensando durante algún tiempo.
“El mundo está descubriendo el secreto ahora y parece posible trabajar en la misión desde más allá del laboratorio fronterizo”, dijo Achiam en una nota al personal obtenida por WIRED. “Creo que podemos lograr un mundo de paz, prosperidad sin precedentes y posibilidades inimaginables, tanto social como científicamente. Haga lo que haga a continuación, continuaré trabajando con ustedes para hacer realidad esta visión”.
OpenAI no ha anunciado si alguien ocupará el puesto de Achiam, quien forma parte de los equipos de políticas y seguridad de IA de la compañía y participa en el estudio de los posibles daños y beneficios causados por el auge de la inteligencia artificial. Achiam trabajó con los principales líderes de la compañía, incluido el jefe de asuntos globales Chris Lehane, para abogar por una regulación gubernamental que se alinee con la misión de OpenAI: garantizar que AGI beneficie a toda la humanidad.
OpenAI ha reorganizado sus equipos de seguridad, productos e investigación varias veces desde el lanzamiento de ChatGPT en 2022, después de lo cual la empresa se expandió rápidamente de un pequeño laboratorio de investigación a una importante empresa de tecnología. En 2024, OpenAI anunció la formación de un “equipo de alineación de la misión” liderado por Achiam con la tarea de defender la misión de la empresa. Abierto AI disolver el grupo en febrero y anunció que Achiam asumiría el nuevo papel de jefe futurista.
El año pasado, OpenAI trabajó para cerrar la brecha entre los equipos de investigación y políticas de IA como parte de un esfuerzo por desarrollar reglas y estándares que anticipen hacia dónde se dirige la tecnología. A medida que los dos departamentos comienzan a colaborar más estrechamente, varios investigadores de OpenAI, incluidos Boaz Barak, Noam Brown y Adrien Ecoffet, dicen que se están involucrando cada vez más en los esfuerzos políticos.
Dean Ball, ex asesor de inteligencia artificial de la Casa Blanca comenzó en OpenAI esta semana como jefe de futuros estratégicos de la compañía, y trabajará brevemente en estrecha colaboración con Achiam. También se espera que Ball trabaje en estrecha colaboración con investigadores y líderes políticos en su función.
Achiam es el último líder centrado en la seguridad en dejar OpenAI, uniéndose a una lista de otras salidas mientras la compañía se prepara para salir a bolsa. Jan Leike, quien codirigió el equipo Superalignment de OpenAI que investiga cómo mantener modelos avanzados de IA bajo control humano, se marchará para unirse a Anthropic en 2024.
Ese mismo año, el jefe de investigación de políticas, Miles Brundage, y Steven Adler, quien dirigió la investigación sobre las capacidades maliciosas de los modelos de IA, dejaron OpenAI para fundar una organización sin fines de lucro que aboga por que los laboratorios de IA cumplan con estrictos estándares de seguridad. Andrea Vallone, quien dirigió la investigación de OpenAI sobre cómo debería responder ChatGPT a los usuarios que experimentan angustia mental o emocional, se marchará para unirse al equipo de Leike en Anthropic a finales de 2025.
Después de unirse a OpenAI como pasante en 2017, Achiam se convirtió en científico investigador centrado en la seguridad de la IA. Es conocido internamente como un defensor acérrimo de la misión centrada en la seguridad de OpenAI, pero también es controvertido por sus declaraciones. criticas ocasionales la comunidad de seguridad de IA en general.
A principios de este año, testificó ante un tribunal federal que interrumpió el discurso de despedida de Elon Musk cuando dejó OpenAI en 2018, diciendo que los planes del entonces multimillonario de desarrollar AGI en Tesla podrían comprometer la seguridad. Musk supuestamente respondió llamando a Achiam “tonto”, un momento que Dario Amodei (ahora CEO de Anthropic) y David Luan (entonces jefe del laboratorio AGI de Amazon) conmemoraron presentándole a Achiam una estatua del trasero de un burro dorado, con la inscripción “Nunca dejes de ser un imbécil por seguridad”.
