Un grupo de docenas de expertos en ciberseguridad, incluidos varios veteranos conocidos de la industria, publicó una carta abierta al gobierno de EE. UU. pidiéndole que levante las órdenes de control de exportaciones de los modelos Anthropic Fable y Mythos.
Según la carta abierta, “esta acción ha quitado los mejores modelos a los defensores (de la ciberseguridad)” que ahora no pueden utilizar esos modelos para encontrar vulnerabilidades y hacer que su software y productos sean más seguros.
“Tomar a los mejores defensores sin razón aparente cuando nuestro enemigo avanza rápidamente es peligroso”, decía la carta.
El viernes, el gobierno de Estados Unidos ordenó a Anthropic limitar las exportaciones de Fable y Mythos alegando preocupaciones de seguridad nacional, sin explicar las razones específicas detrás de la orden. según el antropista. En respuesta, la empresa suspendió el acceso al modelo para todos los usuarios en todo el mundo.
Al momento de escribir este artículo, la carta estaba firmada por 76 expertos en ciberseguridad, entre ellos: el exjefe de seguridad de Facebook, Alex Stamos; Casey Ellis, fundador de la plataforma de recompensas por errores Bugcrowd; el renombrado criptógrafo y ex director de diseño y arquitectura de seguridad de Apple, Jon Callas; el informático Paul Vixie; Dino Dai Zovi, exjefe de ingeniería de seguridad aplicada de Block; Katie Mossouris, fundadora de Luta Security; y Rachel Tobac, directora ejecutiva de la empresa de formación en materia de seguridad SocialProof Security.
Cuando Mythos se lanzó como vista previa en abril, Anthropic afirmó que era tan fuerte a la hora de encontrar vulnerabilidades de seguridad que la empresa necesitaba limitar estrictamente el acceso para evitar que piratas informáticos maliciosos o adversarios extranjeros lo utilizaran para causar caos en Internet. En la práctica, esto significa que Anthropic dio a unas 50 empresas acceso temprano a Mythos y recientemente amplió el grupo para incluir alrededor de 150 organizaciones en 15 países.
La semana pasada, Anthropic lanzó Fable, una versión pública de Mythos que, según la compañía, tiene restricciones estrictas para bloquear su uso en los campos de la biología, la química y la ciberseguridad, así como para evitar que otros prueben el modelo para recrearlo. Las restricciones sobre Fable son tan estrictas que muchos expertos en ciberseguridad descubrieron que Fable básicamente cerró todas las solicitudes relacionadas con la ciberseguridad.
Anthropic dijo que la orden de control de exportaciones de la Casa Blanca puede basarse en informes de que existe un método para eludir, o el llamado jailbreak, Fable para desbloquear sus poderosas capacidades de nivel Mythos.
contáctanos
¿Tiene más información sobre el periódico de Amazon que provocó la prohibición? Queremos escuchar tu opinión. Desde dispositivos y redes que no sean del trabajo, puede comunicarse con Lorenzo Franceschi-Bicchierai de forma segura en Signal al +1 917 257 1382, o vía Telegram y Keybase @lorenzofb, o correo electrónico.
Según Katie Moussouris, una de las firmantes de la carta abierta, el método fue demostrado por investigadores de Amazon en un artículo inédito, pero que ella ha revisado.
El gol de Moussouris dijo en una publicación de blog que el documento en realidad no muestra una fuga real. En cambio, escribió, los investigadores simplemente le pidieron a Fable que arreglara el código fuente abierto con vulnerabilidades públicas y conocidas junto con “vulnerabilidades colocadas intencionalmente”, después de que el modelo inicialmente se negara a “revisar el código por problemas de seguridad”.
“El comportamiento descrito en este documento no se puede mejorar significativamente, y cualquier intento sólo debilitaría el modelo de defensa”, escribió Moussouris. “Los defensores deberían poder pedirle a la IA que corrija un error en un archivo, explicar por qué la corrección es importante y escribir pruebas que confirmen que el parche funciona. Eso no es un atajo. Esto es lo más valioso que un modelo de IA puede hacer para la seguridad defensiva: ejecutar un bucle de búsqueda, corrección y prueba que los defensores ejecutan todos los días”.
La crítica de Moussouris se hizo eco en la carta abierta, que también decía que el grupo de expertos cree que los métodos del artículo de Amazon “pueden replicarse” en el GPT-5.5 de OpenAI, en los Claude Opus 4.8 y Sonnet disponibles públicamente de Anthropic, “e incluso en modelos chinos como Kimi 2.7”.
La carta también pide que las regulaciones se apliquen de manera transparente y justa, creadas a través de un “proceso democrático de elaboración de reglas” que se base en investigaciones científicas realizadas por expertos académicos y de la industria, y “utilizadas sólo al nivel mínimo necesario para garantizar la seguridad del público estadounidense”.
Cuando compra a través de enlaces en nuestros artículos, es posible que ganemos una pequeña comisión. Esto no afecta nuestra independencia editorial.
