Un ex ingeniero de xAI de Elon Musk presentó una demanda contra la compañía y su matriz SpaceX alegando que fue despedido por expresar preocupaciones sobre la seguridad de la IA.
Devin Kim, que dejó xAI en septiembre de 2025, presentó la demanda ante el tribunal estatal de California el martes. La queja se produce días antes de que SpaceX se una a los mercados públicos en lo que sería la oferta pública inicial más grande de la historia.
Según la demanda presentada por TechCrunch, Kim se convirtió en una voz destacada a favor de la seguridad de la IA mientras trabajaba en Grok, el chatbot de IA de xAI. Supuestamente se quejó repetidamente de que xAI no priorizó la seguridad en el desarrollo de Grok, un producto que luego fue criticado por varios problemas de seguridad y comportamiento. En particular, a Kim le preocupaba la posibilidad de que Grok pudiera instigar la discriminación y ayudar a difundir información sobre armas de destrucción masiva.
“Grok, por supuesto, le dio la razón al Sr. Kim al participar en una exhibición espectacular de odio y calumnia en línea, con un modelo comparándose con Hitler (“MechaHitler”)”, afirma la demanda. “Después del fracaso de Hitler, Kim buscó reevaluar los prejuicios políticos y las tendencias discriminatorias de Grok”.
Unos meses después de que Kim dejara xAI, Grok volvió a ser noticia cuando el chatbot se utilizó para inundar X (la plataforma de redes sociales de Musk que también cae bajo el paraguas de xAI) con imágenes sexuales no consensuadas.
La demanda también posiciona a Kim como un denunciante preocupado por el supuesto desprecio de xAI por la seguridad de la IA como “ilegal” en diversas áreas, como la regulación de Internet, la protección del consumidor y las prácticas comerciales desleales, las regulaciones sobre armas y explosivos, y otras.
xAI y SpaceX no respondieron de inmediato a las solicitudes de comentarios.
El enfoque de Kim en la seguridad de la IA es anterior a su trabajo en xAI. Mientras trabajaba en Scale AI, Kim trabajó en las primeras iniciativas de seguridad de la IA, como liderar un proyecto que generaba datos de entrenamiento para que la IA entrenara sistemas para detectar contenido malicioso y cumplir con las políticas de gobernanza. La semana pasada, el Centro para la Seguridad de la IA, una organización sin fines de lucro que se centra en los riesgos de la IA, llamado kim como su presidente.
Curiosamente, la demanda no implica al propio Musk como el motivo de la falta de seguridad. En cambio, los abogados de Kim describieron que Musk había ordenado a xAI que siguiera la ley e implementara procesos de prueba y seguridad adecuados. En cambio, las afirmaciones se dirigen al supervisor de Kim, el cofundador de xAI, Jimmy Ba, que dejó la empresa a principios de este año, diciendo que Ba ignoró las directivas de Musk y tomó represalias contra Kim por impulsar las medidas de seguridad, en un esfuerzo por “silenciar sus repetidas quejas sobre la seguridad y el sesgo de la IA”.
La demanda retrata a Ba como alguien que se opone vehementemente a las medidas de seguridad de la IA, supuestamente una vez le dijo a Kim que “la IA nos matará a todos” y, en cambio, estaba impulsado por la misión de hacer de xAI el primero en alcanzar la superinteligencia.
“En un caso, en agosto de 2025 o alrededor de esa fecha, Ba intentó eludir las normas de seguridad de la UE durante el lanzamiento del Grok Code 1, tergiversando aspectos del modelo para evitar las pruebas requeridas legalmente”, dice la denuncia. “El señor Ba indicó que preferiría lanzar un modelo inseguro que uno que funciona mal. Al final, el señor Musk tuvo que intervenir”.
Según la demanda, Kim tenía la intención de hacer una presentación sobre sus hallazgos la semana del 15 de septiembre de 2025, pero Ba lo convocó a una reunión y le dijo que debían “separarse” sin darle una razón satisfactoria.
TechCrunch se ha puesto en contacto con Ba para hacer comentarios.
Kim busca daños compensatorios y punitivos, así como una sentencia declarativa de que las acciones de xAI y SpaceX fueron ilegales.
Cuando compra a través de enlaces en nuestros artículos, es posible que ganemos una pequeña comisión. Esto no afecta nuestra independencia editorial.
