El viernes pasado, citando preocupaciones de seguridad nacional no especificadas, la Casa Blanca ordenó a Anthropic restringir las exportaciones de sus poderosos modelos de inteligencia artificial, Fable y Mythos, a cualquier persona fuera de Estados Unidos, así como a ciudadanos extranjeros dentro del país. Poco después, el gigante de la IA descontinuó apresuradamente ambos modelos, que ya no están disponibles para nadie desde hace una semana.
Este episodio es la primera prueba real de si el gobierno de Estados Unidos puede utilizar controles de exportación para frenar la IA fronteriza, como ya ha intentado, con resultados muy desiguales, frenar el cifrado y el software espía. Si bien suena dramático, la forma en que se resuelva este impasse no sólo determinará el acceso de Anthropic a los mercados extranjeros, sino también las pautas que otros laboratorios de IA deben establecer.
Algo de contexto primero. Desde que Anthropic lanzó Mythos en abril, la compañía lo ha comercializado como una especie de cibermáquina apocalíptica que podría causar estragos en Internet si se difundiera demasiado, razón por la cual, antes de la prohibición, sólo unas 150 empresas y organizaciones gubernamentales tenían acceso a ella. El objetivo es ayudar a los defensores a proteger su software y servicios antes de que los delincuentes puedan alcanzar capacidades similares a las de Mythos.
Entonces, ¿qué provocó la prohibición? Según se informa, dos hechos posteriores. El primero: Anthropic dio a una empresa de telecomunicaciones de Corea del Sur acceso a Mythos a través de su programa de socios limitados, y los funcionarios estadounidenses se preocuparon después de identificar a la empresa como una que sospechaban que tenía vínculos con China. (Compañía, ampliamente reportado ser SK Telecom, tener rechazado cualquier conexión china). También se informó que el CEO de Amazon, Andy Jassy, advirtió al gobierno después de que los propios investigadores de Amazon, dijo, encontraron una manera de eludir las protecciones de Fable 5. Anthropic cuestionó la etiqueta de “jailbreak”, calificándola de un problema limitado que se solucionó, en lugar de una falla importante en las medidas de seguridad del modelo.
El resultado fue el mismo: el Departamento de Comercio emitió una directiva de control de exportaciones y Anthropic tuvo que restringir inmediatamente el acceso a sus productos aproximadamente 90 minutos después de haber sido notificado por varias partes.
Sin embargo, nada de esto es nuevo. Los gobiernos han intentado utilizar controles de exportación para limitar la proliferación de tecnologías cibernéticas que consideran peligrosas durante décadas, pero su historial no es muy bueno.
El gobierno de Estados Unidos estuvo detrás del que tal vez haya sido el fracaso más espectacular de la historia de este enfoque entre principios y mediados de los años noventa. En ese momento, los informáticos estaban desarrollando tecnología de cifrado para proteger los datos cuando se transmiten a través de Internet. Uno de esos productos de cifrado se llama Pretty Good Privacy, o PGP, un popular software que puede cifrar datos y hacerlos imposibles de descifrar incluso si se interceptan cuando se envían al destinatario a través de Internet.
Inicialmente, el gobierno de Estados Unidos vio el PGP como un arma peligrosa, temiendo que impediría que sus agencias de inteligencia espiaran los correos electrónicos mientras entregaban los mensajes. Para detener la distribución de PGP, el Servicio de Aduanas de EE.UU. abrió una investigación criminal contra el creador de PGP, Phil Zimmermann, por supuestamente violar los controles de exportación de armas. Se defendió publicando el código fuente de PGP. como un libro impresodesatando lo que ahora se conoce como las “Crypto Wars”.
Posteriormente, Zimmermann ganó una batalla crucial cuando se cerró la investigación, allanando el camino para importantes algoritmos de cifrado de extremo a extremo como los utilizados por miles de millones de usuarios de Signal y WhatsApp.
Luego, a principios de la década de 2010, los investigadores comenzaron a descubrir software espía fabricado en Occidente utilizado contra disidentes en Medio Oriente. En respuesta, algunos gobiernos acordaron ampliar Paquete Wassenaarun acuerdo internacional que limita la exportación de software y tecnología de doble uso utilizados tanto en aplicaciones civiles como militares.
La idea es clasificar el software de vigilancia y piratería como software de doble uso, obligando así a los fabricantes de software espía a obtener permisos de exportación para vender sus productos en el extranjero.
contáctanos
¿Tienes más información sobre la prohibición de Mythos? Desde dispositivos y redes que no sean del trabajo, puede comunicarse con Lorenzo Franceschi-Bicchierai de forma segura en Signal al +1 917 257 1382, o vía Telegram y Keybase @lorenzofb, o correo electrónico.
Pero Wassenaar siempre tuvo dos debilidades inherentes. Hay varios países que no cumplen con el acuerdo, incluido Israel, que alberga algunos de los fabricantes de software espía más activos del mundo.
Estos acuerdos también dependen de que los países los apliquen a las empresas dentro de sus países en función de sus propias políticas. Durante un tiempo, el gobierno italiano concedió a uno de los principales fabricantes de software espía del país, Hacking Team, una licencia para exportar sus herramientas a todo el mundo, a pesar de que la empresa tenía un historial de venta de software espía a opresivo gobierno Eso úsalo hackear a periodistas y activistas de derechos humanos.
Desde entonces, otro país en Europa es débil frente a los fabricantes de software espía como Italia. A pesar de los escándalos, Europa, hogar de muchos fabricantes de software espía y herramientas de piratería, ha tenido una buena parte de ellos. fracasa persistentemente en frenar las exportaciones de software espía a regímenes autoritarios. Los críticos dicen que los recientes esfuerzos del bloque de 27 miembros para abordar el creciente problema de las exportaciones de software espía a países autoritarios “no son suficientes”.
Algunos fabricantes de software espía, como Intellexa, un consorcio de empresas de software espía sancionadas, han trasladado sus operaciones a países con controles de exportación débiles. Otros fabricantes de software espía han intentado trasladar sus operaciones a Arabia Saudita por motivos similares.
Ha habido algunas victorias. FinFisher, fabricante de software espía con sede en Alemania cierre en 2022 tras una investigación de varios años realizada por fiscales alemanes sobre la empresa supuestamente vendiendo software espía a Türkiye sin permiso de exportación. Los investigadores descubrieron previamente que había presente el software espía FinFisher desplegado en el teléfono Críticas al gobierno turco.
En el momento en que se escribió este artículo, el impasse entre Anthropic y la administración Trump todavía existía. Existe una posibilidad razonable de que el gobierno estadounidense afloje y levante esas restricciones para mantener competitivas a las empresas estadounidenses de IA en todo el mundo, una medida que es un reconocimiento tácito de que los laboratorios de IA en otros lugares, incluida China, probablemente alcanzarán capacidades similares a pesar de las restricciones estadounidenses. O bien, las empresas estadounidenses de IA pueden exigir la aprobación del gobierno antes de atender a clientes extranjeros, una carga de cumplimiento que invariablemente reducirá sus ganancias.
Dada la experiencia pasada que han tenido los gobiernos de todo el mundo al tratar de controlar el alcance del software, es poco probable que los controles de exportación exigidos por los gobiernos sean el enfoque correcto para impedir que los delincuentes abusen de la tecnología cibernética de doble propósito.
Cuando compra a través de enlaces en nuestros artículos, es posible que ganemos una pequeña comisión. Esto no afecta nuestra independencia editorial.
