Ahora podemos añadir el cibercrimen a la creciente lista de preocupaciones relacionadas con la inteligencia artificial. Grupo de inteligencia sobre amenazas de Google (GTIG) dijo que descubrió, por primera vez, un actor de amenazas que utiliza un exploit de día cero que se cree que fue desarrollado por IA.” Las vulnerabilidades de día cero son a menudo las más peligrosas porque sus objetivos son desconocidos, lo que no les deja tiempo para prepararse para un ataque.
Google dijo en su informe que el actor de amenazas planeaba usarlo en un “evento de explotación masiva”, pero su descubrimiento proactivo “puede haber impedido su uso”. Google agregó que no cree que se haya utilizado su modelo Gemini, pero aún tiene “gran confianza” en que el modelo de IA fue parte del descubrimiento de la vulnerabilidad y el uso del exploit.
El informe de GTIG no identificó el objetivo, pero dijo que Google notificó a la empresa no identificada, que luego solucionó el problema. Google tampoco reveló a los autores del crimen, pero indicó que partes asociadas con China y Corea del Norte habían mostrado un “interés significativo” en utilizar la IA para explotar las vulnerabilidades de seguridad.
Con la rapidez con la que están evolucionando los modelos de IA para el uso diario, no sorprende que se utilicen con intenciones maliciosas. En una entrevista con New York TimesJohn Hultquist, analista jefe de GTIG, lo calificó de “una muestra de lo que está por venir” y de la “punta del iceberg”, y añadió que el caso era sólo la primera “prueba concreta” de un ataque de este tipo. Google dijo en su informe que los actores de amenazas han utilizado la IA en varias etapas de los ciberataques, pero que “la IA también puede ser una herramienta poderosa para los defensores”. Al igual que Google, otras empresas están utilizando modelos de inteligencia artificial para respaldar las contramedidas. El mes pasado, Anthropic anunció el Proyecto Glasswing, una iniciativa encargada de utilizar Claude Mythos Preview para encontrar y defenderse de “vulnerabilidades de alta gravedad”.
