Un proyecto de cooperación de seguridad entre Anthropic (una empresa estadounidense de investigación y productos de inteligencia artificial) y Mozilla (una organización sin fines de lucro global centrada en promover una Internet abierta, segura y de beneficio común) muestra el potencial de la inteligencia artificial para detectar vulnerabilidades de software.
En dos semanas, el sistema Claude AI encontró 22 vulnerabilidades de seguridad en el navegador Mozilla Firefox, de las cuales 14 vulnerabilidades se evaluaron como muy graves.
Según información del equipo de investigación, las vulnerabilidades se detectaron utilizando el modelo de IA Claude Opus 4. 6. El proceso de prueba comenzó con la herramienta JavaScript de Firefox antes de extenderse a muchas otras partes del código fuente.
Mozilla dijo que la mayoría de las vulnerabilidades se han parcheado en Firefox 148, una versión lanzada en febrero de este año. Se espera que algunas de las vulnerabilidades restantes se solucionen en la próxima actualización.
El equipo de investigación eligió Firefox porque este es un proyecto de código abierto con una estructura de código compleja y que ha sido probado cuidadosamente para la seguridad.
El hecho de que la IA todavía pueda detectar muchas debilidades en el sistema muestra que esta tecnología puede convertirse en una herramienta de apoyo eficaz para los expertos en seguridad cibernética.
Sin embargo, Claude demostró ser mejor en la búsqueda de vulnerabilidades que en la creación de código para explotarlas. El equipo de investigación gastó alrededor de 4,000 dólares estadounidenses en crédito API para probar métodos de explotación experimentales, pero solo tuvo éxito en dos casos.
Los resultados de las pruebas muestran que la IA puede desempeñar un papel importante en el fortalecimiento de la seguridad de los proyectos de código abierto.
Sin embargo, los expertos también advierten que el uso de la IA en el desarrollo de software debe controlarse cuidadosamente para evitar generar muchos cambios de código de mala calidad.
