Musk contra Altman demuestra que la IA está dirigida por las personas equivocadas


Las pruebas tecnológicas de este año, Musk contra Altmanen última instancia es una lucha por el control. Elon Musk sostiene que Sam Altman, con quien ayudó a fundar la ahora enorme empresa OpenAI, no debería dirigir el futuro de la IA. Los abogados de Altman, a su vez, cuestionaron la propia credibilidad de Musk. El jurado llegó a su decisión el lunes después de sólo dos horas de deliberaciones, rechazando las afirmaciones de Musk debido al plazo de prescripción.

En términos legales, tres semanas de testimonios no significan nada. Pero el juicio ofrece una conclusión más amplia: casi nadie en esta historia es digno de confianza. Algunas de las personas más poderosas en tecnología parecen temperamentalmente incapaces de tratarse honestamente entre sí. Y si eso es cierto, surge una pregunta mayor: ¿por qué controlan una billones de dólares ¿Una industria diseñada para cambiar la vida de las personas?

OpenAI, según el testimonio de Musk y Altman, se fundó para evitar que las personas equivocadas posean y desarrollen una IA poderosa. Los testimonios y las pruebas sugieren que al equipo fundador le preocupaba quién controlaría la inteligencia artificial general (AGI), un término para la IA que generalmente iguala o supera el conocimiento y las capacidades humanas. Le tienen mucho miedo a Google DeepMind y a su líder, Demis Hassabis. En 2015, Altman dijo que había considerado si había algo que pudiera “impedir que la humanidad desarrollara la IA” y, tras concluir que era imposible, quería que “alguien que no fuera Google lo hiciera primero”.

Los cofundadores Greg Brockman e Ilya Sutskever se oponen tanto al control unipersonal que parecen dispuestos a frustrar un acuerdo lucrativo que, en sus palabras, podría darle a Musk una “dictadura de la IA”. En la misma parte del correo electrónico dirigido a Altman, Brockman y Sutskever cuestionaron sus motivaciones y escribieron: “No hemos podido confiar plenamente en su criterio a lo largo de este proceso… ¿Es AGI realmente su principal motivación? ¿Cómo se conecta con sus objetivos políticos?”

Estos temores pronto se harán realidad. El foco principal de Musk contra Altman fue el “error”, el período de cinco días en noviembre de 2023 cuando la junta directiva de OpenAI despidió a Altman como director ejecutivo. Sutskever había pasado más de un año planeando su destitución, redactando un memorando de 52 páginas que afirmaba “un patrón constante de mentir, menospreciar a sus ejecutivos y enfrentar a sus ejecutivos entre sí”. Las implicaciones son más amplias que las luchas internas entre ejecutivos y podrían afectar potencialmente la implementación pública de los sistemas de inteligencia artificial. La entonces CTO Mira Murati, por ejemplo, testificó ante el tribunal que Altman le dijo que al equipo legal de OpenAI no le importaba saltarse una revisión de seguridad para uno de sus modelos; una declaración, según ella, que resultó ser falsa.

En sus argumentos finales, el abogado de Musk, Steven Molo, enfatizó la larga lista de personas que han testificado bajo juramento que Altman es, de una forma u otra, un mentiroso, todos los cuales han trabajado con Altman durante años. “Los acusados ​​realmente quieren que le crean a Sam Altman”, dijo Molo al jurado. “Si no puedes creerlo, si no confías en ello, no pueden ganar. Es tan simple como eso”.

Pero durante el proceso judicial, a Musk, que ahora dirige los laboratorios rivales xAI, bajo la compañía espacial SpaceX, no le fue mucho mejor. Joshua Achiam, ahora jefe futurista de OpenAI, testificó que la competencia de Musk contra Google lo empujó a adoptar un enfoque “claramente inseguro e imprudente” para lograr AGI. Cuando él y otros expresaron sus preocupaciones, dijo, Musk argumentó que los cambios orientados a las ganancias de OpenAI creaban incentivos para ignorar la seguridad, pero su xAI en sí tenía fines de lucro y, en el mejor de los casos, tenía un enfoque desordenado en materia de seguridad. Y para garantizar que OpenAI permanezca abierto, Musk está obsesionado con la necesidad de controlar OpenAI. En sus argumentos finales, Sarah Eddy, una de las abogadas de OpenAI, dijo al jurado que Musk “quiere dominar AGI”.

Como uno de los usuarios de X déjalo“Si la desconfianza aumenta, poner a Musk y Altman demasiado cerca el uno del otro colapsará la sala del tribunal y el mundo entero en un agujero negro”.

OpenAI y Musk no respondieron de inmediato a las solicitudes de comentarios.

No son sólo Musk y Altman. Las pruebas del juicio demostraron que Murati ayudó a destituir a Altman, luego cambió de bando para apoyar su reinstalación, pero parecía “completamente desinteresado” en revelar el papel que alguna vez desempeñó. Shivon Zilis, un colaborador cercano de Musk que formó parte de la junta directiva de OpenAI, le preguntó a Musk si “preferiría permanecer cercano y amigable con OpenAI para mantener el flujo de información” durante su ausencia, evitando revelar que tenía dos hijos con él en ese momento. Las anotaciones del diario de Brockman jugaron un papel importante en el caso de Musk; En un momento, reconoció que Musk podría afirmar “correctamente” que “no fuimos honestos con él” si OpenAI hiciera cambios con fines de lucro sin su participación.

Musk contra Altman dando a todos la oportunidad de lanzar acusaciones entre sí y, en teoría, convertirse en un guardián más concienzudo de la IA. Pero la conclusión más obvia es que algunos de los nombres más importantes de la industria de la IA son ingenuos y, lo peor de todo, hipócritas que prestan poca atención a las consecuencias de sus acciones.

El sentimiento del público hacia la IA está en su punto más bajo. En una encuesta de Pew Research el verano pasado, la mitad de los adultos en Estados Unidos dijo que “el uso cada vez mayor de la IA en la vida cotidiana los hace sentir más preocupados que emocionados”, y solo el 10 por ciento dijo que se sentía más emocionado que preocupado. Muchas de estas preocupaciones se relacionan con la pérdida de empleos, pero también crecen las protestas contra la construcción masiva de centros de datos. cruz Eso país. Parte de la resistencia se volvió potencialmente violenta, y supuestamente los individuos intentaron atacar la casa de Altman dos veces. Y muchos directores ejecutivos de tecnología guardia que tienen un búnker u otro plan de preparación para el fin del mundo en caso de que algo salga terriblemente mal.

Estas empresas están impulsando el mensaje público de que la IA empodera a sus usuarios. Pero un estudio de Pew Research de 2025 encontró que casi el 60 por ciento Los adultos estadounidenses sienten que no tienen control sobre el uso de la IA en sus vidas. En Estados Unidos, las perspectivas de una regulación gubernamental significativa –que al menos podría proporcionar cierto nivel de supervisión externa– siguen siendo débiles. Y ahora, está cada vez más claro hasta dónde llegarán los mayores actores de la IA del mundo para mantener el control.

En medio de la creciente evidencia en el juicio, un documento proporciona un raro ejemplo de Altman y Musk ofreciendo entregar el poder. En marzo de 2015, Altman envió un correo electrónico al CEO de Microsoft, Satya Nadella, con una simple petición: firmar una carta que él y Musk estaban redactando, pidiendo al gobierno de Estados Unidos que creara “una nueva agencia reguladora para la seguridad de la IA” y abordara “los mayores riesgos para la supervivencia de la humanidad que la mayoría de la gente ignora”. Unas semanas más tarde, Nadella respondió descartando la idea. “Las cuestiones de seguridad humana y de control serán problemas reales”, afirmó. Pero los ejecutivos, enfatizó, deberían pedir “financiamiento federal y estímulo a la investigación”, no supervisión. Altman estuvo de acuerdo de inmediato. Prometió que la carta se modificaría, dejando la opción de regular la industria de la IA “si y cuando”.

Seguir temas y autores de esta historia para ver más cosas similares en su feed de inicio personalizado y recibir actualizaciones por correo electrónico.




Source link