La carta de ejecución del gobierno de EE. UU. a Anthropic, que efectivamente obligó a la compañía a descontinuar su último modelo de IA antes del fin de semana, debería ser una llamada de atención para cualquier empresa de tecnología de EE. UU., ya sea laboratorio de IA o no.
Para conocer las últimas noticias: el viernes por la tarde, el Departamento de Comercio de EE. UU. envió una carta a Anthropic solicitando una vaga directiva de control de exportaciones que prohíba a los no estadounidenses, incluidos los empleados de Anthropic, acceder a Fable 5 y Mythos 5, citando preocupaciones de seguridad nacional no especificadas. Anthropic dijo que cree que la carta se relaciona con un desvío de la barandilla del modelo, pero no están seguros porque la carta no proporciona detalles específicos. La carta no ha sido publicada.
En respuesta, Antrópico cerca sus dos mejores modelos a todos los clientes para garantizar que cumplen con la directiva. El resultado fue que el gobierno estadounidense logró obligar a una empresa de tecnología a discontinuar su modelo con una acción rápida y unilateral que aparentemente no requirió aprobación judicial.
La intervención de la administración Trump el viernes demostró que la industria de la IA no es inmune a la interferencia del gobierno. Esto también es una advertencia para la industria tecnológica en general: cumplan o podríamos cerrarle a usted y a su producto.
Citando fuentes, axio describió una situación tensa durante el fin de semana entre los dos actores principales, diciendo que las “diferencias de personalidad” entre Anthropic y la administración Trump se redujeron a directivas de exportación, no a problemas técnicos con los productos de IA.
Nuevos detalles sobre el tema que surgieron durante el fin de semana ahora han arrojado más dudas sobre el ya inestable pensamiento del gobierno.
Katie Moussouris, investigadora y veterana en ciberseguridad que fundó Luta Security, dijo en una publicación de blog que Anthropic compartió recientemente con él una copia privada de un artículo escrito por un investigador de seguridad que describe un supuesto desvío de la barandilla en Fable 5. (The Wall Street Journal informa que el autor del artículo es investigador de seguridad en Amazon.) Moussouris dijo que Anthropic se acercó para pedirle que aceptara el documento.
La publicación del blog de Moussouris describió cómo los investigadores activaron el bypass, pero dijo que el bypass en sí “nunca debería activar controles de exportación”. La diferencia radica en gran medida entre pedirle a un modelo de IA que “revise el código en busca de problemas de seguridad” y pedirle que “arregle este código”. El resultado final es prácticamente el mismo, aunque las preguntas se formulan de forma ligeramente diferente.
“El comportamiento descrito en este documento no puede corregirse de manera significativa, y cualquier intento sólo debilitaría el modelo de defensa”, dijo Moussouris, quien criticó la directiva de control de exportaciones por considerarla apresurada, dura y equivocada.
Desde entonces, Moussouris y docenas de otros destacados investigadores y expertos en seguridad han pedido a la administración Trump que levante la orden de control de exportaciones, calificando de “peligrosa” la medida de retirar las capacidades avanzadas de ciberseguridad de los defensores de la red en Estados Unidos.
Los gobiernos anteriores han tomado decisiones importantes en relación con las lagunas de conocimiento. Por ejemplo, el lenguaje utilizado por el gobierno de EE. UU. durante la década de 2010 para mejorar las leyes de exportación a fin de incluir herramientas de ciberseguridad que también pudieran usarse para ciberataques fue tan amplio que, sin darse cuenta, el lenguaje podría usarse para llevar a cabo ciberataques. casi prohibido investigación legítima de seguridad y vulnerabilidad.
Sin embargo, la directiva de la administración Trump parece tener un carácter de represalia.
Justin Hendrix, eso es. editor de Prensa de política tecnológicaDijo que la medida de la administración Trump “es probable que genere preocupaciones en países extranjeros sobre la confiabilidad de la IA estadounidense para aplicaciones críticas”. El mensaje es que no se puede confiar en que las empresas de IA en Estados Unidos operen sin la interferencia del gobierno estadounidense.
La administración Trump no ha confirmado por qué está implementando la directiva de control de exportaciones. ¿Los funcionarios interpretaron mal el informe y entraron en pánico? ¿El director ejecutivo de Amazon, Andy Jassy, dijo algo a un alto funcionario del gobierno que provocó esta reacción, por precaución o por despecho? ¿Se pierde algo en la traducción o es una forma de presionar a Anthropic, que ya tiene una mala relación con el gobierno? Es posible que la Casa Blanca no fuera consciente del impacto de largo alcance de las demandas de la carta y los funcionarios estén luchando por reparar el daño que ellos mismos causaron.
Para citar a Hendrix, “el clima era una nube de sospecha de que los altos funcionarios elegían favoritos basándose en factores personales y políticos”. El impacto es que el gobierno ha sentado un precedente peligroso en cuanto a cuánto control quiere tener sobre la publicación de software fabricado en Estados Unidos.
Esta vez el gobierno estuvo en desacuerdo con Anthropic; mañana podría ser con otra persona.
Cuando compra a través de enlaces en nuestros artículos, es posible que ganemos una pequeña comisión. Esto no afecta nuestra independencia editorial.
