Dos ex empleados de OpenAI y un grupo de organizaciones sin fines de lucro de seguridad de la IA advierten que el laboratorio de IA de Elon Musk, xAI, podría ser un lastre para los inversores potenciales en SpaceX, que se está preparando para presentar su solicitud para la oferta pública inicial más grande en la historia de Wall Street.
en un carta En el discurso a los inversores publicado el martes, los ex empleados destacaron lo que describieron como “riesgos imprevistos” relacionados con xAI que podrían complicar los planes informados de SpaceX para escalar a $75 mil millones como parte de su IPO. La valoración privada de la compañía de cohetes se disparó a más de 1 billón de dólares después de que adquirió xAI el año pasado. Musk afirma que su compañía de cohetes puede lanzar centros de datos al espacio para su laboratorio de inteligencia artificial, pero los autores de la carta argumentan que el pobre historial de xAI en cuestiones de seguridad podría complicar la visión de los inversores sobre la compañía combinada mientras se prepara para entregar sus proyectos. Presentación del prospecto de IPO.
Uno de los firmantes y coautores de la carta es una nueva organización sin fines de lucro llamada Guidelight AI Standards, cofundada por el ex investigador de seguridad de OpenAI Steven Adler y el ex asesor de políticas de OpenAI Page Hedley. El grupo, respaldado por donantes privados, tiene como objetivo mejorar las prácticas de seguridad de las principales empresas de IA. También participan otras organizaciones sin fines de lucro sobre seguridad de la IA, incluidos Legal Advocates for Safe Science and Technology, Encode AI y The Midas Project.
Hedley le dijo a WIRED en una entrevista que cree que xAI tiene las peores prácticas de seguridad “casi en todos los ámbitos” en comparación con otros desarrolladores líderes de IA, incluidos OpenAI, Google DeepMind y Anthropic. Como resultado, dijo, SpaceX puede enfrentar mayores riesgos regulatorios y de litigios que otros laboratorios de IA.
Los autores de la carta argumentan que SpaceX debería hacer varias revelaciones a los inversores, incluido si xAI tiene la intención de continuar desarrollando modelos de IA de vanguardia. SpaceX recientemente llegó a un acuerdo para vender la mayor parte de su capacidad de GPU a Anthropicy la carta afirma que el acuerdo “aún no está claro si xAI sigue siendo un competidor líder en IA dentro de una empresa matriz más grande”. Si xAI continúa desarrollando modelos de IA de vanguardia, los autores dicen que debería publicar planes de gobernanza y seguridad pública.
SpaceX y xAI no respondieron de inmediato a la solicitud de comentarios de WIRED.
La carta también describe ejemplos de cómo xAI no sigue las prácticas de seguridad estándar de la industria, como la publicación de un marco detallado para mitigar los riesgos en torno a los modelos de IA utilizados en ataques cibernéticos. Los autores también describen incidentes de seguridad específicos en xAI que creen que requieren un escrutinio adicional. Uno de los ejemplos más destacados fue cuando el chatbot de IA insignia de xAI, Grok, mencionó espontáneamente el genocidio blanco en su respuesta. En otro caso, xAI permitió a Grok generar miles de imágenes sexuales de mujeres y niños, que fueron ampliamente distribuidas en Musk.
Hedley dijo que la cantidad de incidentes de seguridad que ha experimentado xAI y la atención regulatoria que ha recibido está “muy desproporcionada con su participación de mercado”. A medida que los legisladores se preocupan cada vez más por las capacidades cibernéticas de los modelos avanzados de IA como Claude Mythos de Anthropic, es posible que haya nuevas regulaciones de seguridad en el horizonte. Según se informa, la administración Trump ya lo ha hecho pesaje de órdenes ejecutivas Esto daría a las agencias de inteligencia estadounidenses una mayor supervisión de los modelos de IA.
“Se necesita una inversión seria para controlar los riesgos (de seguridad de la IA), y parece que xAI históricamente ha invertido poco en esto”, dijo Adler. La carta cita un informe del Washington Post que decía que xAI acababa de “dos o tres” personas que trabajan de forma segura en enero. “La pregunta que los inversores deberían hacerse es si xAI sigue a la vanguardia, ¿cuánto costará gestionar este (riesgo) de forma responsable? Si no, ¿cuáles son las consecuencias?
