El reciente incidente de Hugging Face impulsa el debate sobre la IA abierta
El proyecto busca acelerar el desarrollo de soluciones abiertas que permitan a empresas, administraciones y profesionales de la ciberseguridad hacer frente a un panorama de amenazas cada vez más complejo, marcado por el crecimiento de la inteligencia artificial y el uso de modelos avanzados tanto por parte de defensores como de ciberdelincuentes.
La creación de la alianza llega poco después del incidente de seguridad sufrido por Hugging Face, donde un sistema de inteligencia artificial logró ejecutar de forma autónoma un ataque dentro de un entorno de pruebas aislado, según explica Nvidia en el manifiesto que acompaña el lanzamiento de la alianza, este episodio puso de manifiesto la importancia de disponer de modelos abiertos para responder rápidamente a incidentes de seguridad. Durante la investigación, Hugging Face recurrió al modelo de pesos abiertos GLM 5.2, ejecutándolo sobre su propia infraestructura para analizar más de 17.000 acciones relacionadas con el ataque y contener la intrusión, una capacidad que, según sus impulsores, habría sido mucho más limitada utilizando únicamente herramientas cerradas.
Para Nvidia, este caso demuestra que los modelos abiertos pueden desempeñar un papel clave en la respuesta ante incidentes, al permitir un mayor nivel de inspección, personalización y control sobre la infraestructura donde se ejecutan.
Una apuesta por la transparencia y la defensa distribuida
La nueva Open Secure AI Alliance defiende que los sistemas de inteligencia artificial abiertos aportan ventajas importantes desde el punto de vista de la ciberseguridad, entre ellas, destacan la posibilidad de auditar el funcionamiento de los modelos, adaptarlos a las necesidades de cada organización y ejecutarlos en infraestructuras propias sin depender exclusivamente de proveedores externos.
El manifiesto también sostiene que este enfoque favorece una defensa distribuida, impulsada por la comunidad y sin un único punto de fallo, facilitando que investigadores y expertos de todo el mundo puedan colaborar en la identificación y corrección de vulnerabilidades. No obstante, Nvidia aclara que la iniciativa no pretende sustituir a los modelos propietarios ni cuestionar su utilidad sino que lo que la compañía defiende es un enfoque híbrido en el que los modelos abiertos actúen como complemento a las soluciones cerradas, ampliando las capacidades defensivas y facilitando el acceso a herramientas avanzadas de seguridad.
Open Secure AI Alliance reúne a empresas y organizaciones de distintos ámbitos tecnológicos, desde fabricantes de hardware hasta compañías de ciberseguridad, plataformas cloud y fundaciones de software libre, entre los socios fundadores figuran Microsoft, Hugging Face, Cisco, IBM, Adobe, Salesforce, Cloudflare, Linux Foundation, además de otras organizaciones vinculadas al desarrollo de inteligencia artificial, infraestructuras digitales y proyectos de código abierto. La diversidad de participantes refleja el creciente consenso dentro de la industria sobre la necesidad de establecer mecanismos de colaboración para afrontar los nuevos riesgos asociados a la expansión de la inteligencia artificial.
El lanzamiento de esta alianza se enmarca en un debate cada vez más relevante dentro del sector tecnológico sobre el papel que debe desempeñar el código abierto en el desarrollo de la inteligencia artificial. En las últimas semanas, compañías como Microsoft, Nvidia, Mistral o Perplexity han defendido públicamente que los modelos abiertos pueden favorecer una mayor innovación, mejorar la accesibilidad a estas tecnologías y fortalecer la seguridad mediante una mayor transparencia y colaboración entre la comunidad investigadora.
Con Open Secure AI Alliance, Nvidia pretende trasladar esa filosofía al ámbito de la ciberseguridad, impulsando un ecosistema de herramientas abiertas que permita responder con mayor rapidez a las amenazas emergentes y fortalecer la protección de los sistemas de inteligencia artificial en un contexto donde los ataques son cada vez más sofisticados y automatizados.
Si (
No(
