“Sería un error pensar que ninguno de los competidores de Anthropic desarrollará capacidades similares a Mythos o que aún no lo han hecho”, dijo Tarah Wheeler, directora de seguridad de la firma de consultoría especializada en ciberseguridad TPO Group. “Hay otras empresas que siguen a Anthropic y que también pueden tener esas capacidades y las mantienen en reserva a medida que ven cómo se trata a Anthropic en el entorno regulatorio actual”.
La propia Anthropic ha enfatizado esto desde el lanzamiento de Mythos Preview. “El verdadero mensaje es que no se trata del modelo o Anthropic”, dijo a WIRED Logan Graham, líder del equipo rojo de la compañía, cuando se lanzó Mythos Preview en abril. “Ahora necesitamos prepararnos para un mundo en el que estas capacidades estén ampliamente disponibles en 6, 12 o 24 meses”.
OpenAI, por ejemplo, también realiza lanzamientos privados de un un modelo que se centra en la ciberseguridad a mediados de abril y anunció una estrategia ampliada de ciberseguridad.
Los investigadores señalan que incluso antes de estos modelos de próxima generación, las ofertas de IA existentes se pueden utilizar para la búsqueda avanzada de vulnerabilidades y el desarrollo de exploits aprovechando mejores tecnologías. Un gran grupo de líderes de ciberseguridad enfatizaron esto al gobierno en un carta abierta el domingo, argumentando que la directiva de control de exportaciones de la Casa Blanca estaba equivocada.
“No es sólo un modelo; es una tendencia general en tecnología”, dijo Bruce Schneier, investigador de la Universidad de Harvard y la Universidad de Toronto que ha estudiado analizar la situación. “Los modelos de código abierto más pequeños y más baratos, a veces solos o en combinación entre sí, pueden igualar el rendimiento de Mythos/Fable con un impulso más sofisticado. Y podemos esperar que otros modelos igualen la creatividad y tenacidad de Mythos/Fable en unos meses, un poco más para los modelos de código abierto”.
Según los expertos, en lo que deben centrarse la Casa Blanca y los gobiernos de todo el mundo es en desarrollar planes más amplios y democráticamente transparentes sobre cómo abordarán los inevitables avances en las capacidades de la IA en ciberseguridad y otras áreas sensibles.
“La cuestión de política no es si una tecnología tiene riesgos”, dijo Chris Wysopal, cofundador de la firma de seguridad en la nube Veracode. “La pregunta es si ciertas restricciones pueden reducir significativamente esos riesgos o, de hecho, ralentizar a las personas que trabajan para hacer que el sistema sea más seguro”.
Esta historia apareció originalmente en cable.com.
