como el miedo a Las capacidades de piratería de IA están creciendo, OpenAI se centró mucho el lunes en la ciberseguridad anuncioincluida una versión mejorada del modelo de seguridad de acceso limitado GPT-5.5-Cyber, ampliando la cooperación internacional con gobiernos y otras agencias para brindarles “acceso confiable” al modelo más nuevo de la compañía centrado en la ciberseguridad y lanzando el escáner Codex Security como un complemento de aplicación.
Sin embargo, a medida que los avances en la industria de la inteligencia artificial ponen cada vez más en riesgo de quedarse atrás importantes proyectos de código abierto, la compañía también dijo el lunes que está lanzando un esfuerzo conocido como Patch the Planet, cofundado por la firma líder en seguridad centrada en la investigación Trail of Bits y en colaboración con las firmas de gestión de vulnerabilidades HackerOne y Calif.
El proyecto ha comenzado a ofrecer servicios gratuitos de consultoría de seguridad a los mantenedores de código abierto para no solo ayudarlos a encontrar y parchear vulnerabilidades, sino también ayudarlos a fortalecer sus bases de código e incorporar herramientas de seguridad de IA en sus procesos de desarrollo. La idea es brindar apoyo individual a tantos proyectos de código abierto como sea posible para mejorar la seguridad actual y la resiliencia a largo plazo de una manera verdaderamente sostenible.
“Patch the Planet es un esfuerzo a nivel de Internet para ayudar a que el software de código abierto se convierta en el líder en herramientas de búsqueda de errores de IA”, dijo el director ejecutivo y cofundador de Trail of Bits, Dan Guido. “Pero esto también es un esfuerzo para ayudar a la comunidad de código abierto a ver los beneficios y no sólo los inconvenientes de las herramientas de codificación de IA”.
Los desarrolladores de código abierto (generalmente voluntarios que mantienen software crítico y ampliamente utilizado con pocos recursos) a menudo tienen dificultades para mantenerse al día con los informes de errores. El aumento en la búsqueda de vulnerabilidades de la IA en los últimos meses ha hecho que, para muchos gerentes, el trabajo atrasado parezca insuperable a medida que se acumulan los informes de fallas generados por la IA, lo que dificulta la priorización y desvía el tiempo y la atención ya limitados de las vulnerabilidades críticas.
Los encargados de mantenimiento “hacen su trabajo por amor al código abierto, y ahora están atrapados revisando CVE malos”, dijo el líder de tecnología cibernética de OpenAI, Fouad Matin. Con Patch the Planet, dijo, “lo que hemos hecho efectivamente es hacerlo lo más eficiente posible desde el punto de vista de los tokens para reducir la carga de los mantenedores: evaluar la base del código, validar informes potenciales, crear parches y enviarlos. Queremos compensar los costos, ya sean tokens o recursos humanos, para parchear la mayor cantidad posible del mundo del software”.
Matin añadió que para su escáner Codex Security, que ha estado en fase de investigación preliminar desde principios de este año, OpenAI ha subsidiado el uso de código fuente abierto y privado “por valor de 20 billones de tokens”.
Más de 30 proyectos de código abierto han participado en Patch the Planet y hay más en camino. Para lanzar el proyecto, Trail of Bits realizó recientemente un sprint inicial de cinco días en el que participaron 25 ingenieros, o aproximadamente una quinta parte de su fuerza laboral, que trabajaban simultáneamente en colaboración con varios mantenedores. OpenAI y Trail of Bits dicen que el proyecto encontró cientos de errores y produjo docenas de parches solo en la primera semana. Y Guido dijo que con financiación de OpenAI y acceso a modelos no escalables, Trail of Bits planea continuar su fuerte compromiso con el trabajo de Patch the Planet a largo plazo.
“Es raro que tengamos la oportunidad de trabajar en cuestiones de seguridad de código abierto a gran escala”, afirmó Guido. “Y Patch the Planet no es una solución única para todos. Hablamos con todos los mantenedores de cada proyecto y averiguamos cuáles son sus principales prioridades, ya sea construir una mejor infraestructura de prueba o un fuzzer personalizado o simplemente limpiar los datos técnicos en todo el proyecto porque eso es lo que hará que trabajen más rápido, operen más rápido y apliquen parches más rápido”.
