AbiertoAI anunció nuevas iniciativas on Monday está diseñado para ayudar a la comunidad de código abierto a mejorar su juego de ciberseguridad y evitar errores.
“Patch the Planet” (que es una alusión no tan sutil a “Hackear el planeta”, la frase icónica de la película de 1995. hacker) verá a OpenAI asociarse con empresas de seguridad rastro de bits para ayudar a los mantenedores de código abierto a proteger sus proyectos.
OpenAI dijo que el personal de seguridad de Trail of Bits trabajará directamente con los mantenedores de código abierto para revisar posibles problemas de código. Se utilizarán herramientas de seguridad OpenAI, como Codex Security, para ayudar en el proceso.
“A muchos mantenedores se les ha pedido que revisen más informes, más rápidamente, con tiempo y recursos limitados”, dijo OpenAI el lunes. “Patch the Planet se creó para reducir esa carga, no para aumentarla: los ingenieros de seguridad revisan los hallazgos antes de que lleguen a los mantenedores, trabajan con proyectos para desarrollar parches y pruebas, y crean flujos de trabajo reutilizables que ayudan a los equipos a continuar mejorando la seguridad después de que se realiza la primera solución”.
En otras palabras, los ingenieros de Trail of Bits funcionarán más o menos como el código EMT, ayudando a los mantenedores de proyectos de código abierto a identificar y abordar problemas potenciales, todo ello impulsado por el software OpenAI. Parece un proyecto ambicioso y aún no está claro cómo funcionará a largo plazo o qué planes para ampliarlo (si los hay).
Los proyectos de código abierto son la base digital en la que se basa la industria del software comercial, pero desafortunadamente, debido a la estructura descentralizada del ecosistema y la falta de supervisión, gran parte del software es inseguro. Los errores en proyectos de código abierto pueden ser un gran problema para las bases de código comerciales. Desastre de Log4j de hace unos años, cuando se descubrió una vulnerabilidad desagradable en una utilidad de código abierto ampliamente utilizada, es un buen ejemplo.
Gran parte de la preocupación que rodea a herramientas como Mythos (la muy publicitada herramienta de seguridad de Anthropic) parece surgir del hecho de que la IA ahora puede identificar automáticamente errores existentes en una base de código y comenzar a crear exploits para esos errores. Mientras tanto automatización del cibercrimen No es nada nuevo, estas herramientas ciertamente tienen el potencial de hacerlo mucho más conveniente para los delincuentes.
OpenAI cambia esa fórmula al utilizar IA para ayudar a la comunidad de código abierto a protegerse mejor. Es difícil no pensar en ello como un golpe competitivo a Anthropic, y al mismo tiempo darse cuenta de que esto es algo que la comunidad de código abierto necesita desesperadamente.
Cuando compra a través de enlaces en nuestros artículos, es posible que ganemos una pequeña comisión. Esto no afecta nuestra independencia editorial.
