Hemos visto cómo se puede utilizar la IA para encontrar debilidades en aplicaciones y sitios web, pero los investigadores ahora han demostrado cómo se puede utilizar la IA para explotar esas vulnerabilidades. un equipo de universidad de toronto utiliza modelos de IA de acceso público para impulsar prototipos de gusanos capaces de explotar cualquier debilidad informática conocida. Luego, el gusano puede propagarse a través de la red y causar caos en Internet.
Los gusanos típicos suelen ser diseñados por programadores expertos para explotar debilidades específicas de la red y pueden detenerse parcheando esas debilidades. Sin embargo, los científicos de la U of T, trabajando en un entorno cerrado seguro y tomando muchas precauciones, utilizaron un modelo de IA ponderado de código abierto para crear un prototipo de un gusano mucho más sofisticado que se propagó a través de la red de prueba del equipo sin intervención humana.
Este nuevo tipo de gusano adapta sus ataques contra diferentes tipos de vulnerabilidades en múltiples plataformas, incluidos Linux, Windows y dispositivos IoT. Recopila datos a medida que se mueve por la red, absorbiendo contraseñas y exponiendo más vulnerabilidades que le ayudarán a apoderarse de otras máquinas. Si se encuentra una infección y se parchea en una computadora, el gusano puede aprovechar otras debilidades para atacar la misma máquina.
Además, el gusano se “alimenta” a sí mismo extrayendo potencia de procesamiento de las máquinas infectadas para fortalecer su justificación y estrategia para futuros ataques. “Los piratas informáticos normalmente tienen que priorizar los objetivos de mayor valor porque el tiempo y los recursos informáticos son limitados”, dijo el autor principal, Nicolas Papernot. “Pero ahora, una vez que se lance el gusano, los costos se reducirán a casi cero”.
La idea de las ciberamenazas impulsadas por la IA se volvió muy real recientemente con el lanzamiento de Mythos por parte de Anthropic, un modelo que puede identificar riesgos de ciberseguridad previamente desconocidos. Anthropic dice que Mythos ha descubierto más de 10.000 fallas, aumentando la tasa de descubrimiento de errores de su socio más de 10 veces. Cloudflare, que ayuda a proteger a las empresas de ataques maliciosos, descubrió 2.000 vulnerabilidades de este tipo, incluidas 400 consideradas altas o críticas.
El prototipo de gusano creado por los investigadores sólo podía explotar debilidades conocidas y no descubrir debilidades desconocidas como Mythos. Sin embargo, es fácil ver cómo los actores maliciosos podrían adaptarlo para encontrar y explotar nuevas vulnerabilidades, que lo harían casi imparable si se liberara. “En un mundo interconectado, ningún sistema es inmune a estas amenazas”, afirmó Papernot. “Compartir estos hallazgos es el primer paso para alentar a los investigadores, líderes de la industria y formuladores de políticas a tomar medidas, y rápidamente”.
