Un programa voluntario para evaluar los modelos más avanzados
Según ha adelantado CNBC, el encuentro servirá para revisar el marco desarrollado por la Administración estadounidense tras la orden ejecutiva firmada por el presidente Donald Trump el pasado 2 de junio con el objetivo de establecer un proceso voluntario que permita analizar las capacidades de los modelos de última generación antes de que lleguen a un despliegue más amplio. El nuevo marco permitirá que los desarrolladores que decidan adherirse al programa faciliten al Gobierno estadounidense acceso anticipado a sus modelos durante un periodo de hasta 30 días antes de ponerlos a disposición de otros socios de confianza.
La Administración considera que este acceso previo facilitará la identificación de posibles riesgos asociados al uso de estos sistemas, especialmente aquellos relacionados con la localización automática de vulnerabilidades de software o la capacidad de ejecutar ataques informáticos complejos de forma autónoma. La iniciativa se centra exclusivamente en los llamados “frontier models”, es decir, los modelos de inteligencia artificial más avanzados y con mayores capacidades, aunque los criterios concretos para determinar qué sistemas entran dentro de esa categoría no serán públicos.
La orden ejecutiva encargó al Departamento del Tesoro, la Agencia de Seguridad Nacional (NSA) y la Agencia de Ciberseguridad y Seguridad de las Infraestructuras (CISA) el desarrollo de un sistema de pruebas específico para medir las capacidades cibernéticas de estos modelos, tanto los benchmarks utilizados como los umbrales que determinarán qué modelos deben someterse a estas evaluaciones permanecerán clasificados por motivos de seguridad nacional. Hasta el momento, la Casa Blanca no ha publicado el contenido del marco ni los indicadores técnicos que utilizará durante las pruebas, una decisión que responde al interés de evitar que la información sobre los métodos de evaluación pueda facilitar el desarrollo de modelos diseñados para eludir dichos controles.
Sin nuevas licencias obligatorias para desarrollar IA
Uno de los aspectos que el Gobierno estadounidense ha querido dejar claros es que este programa no supondrá la creación de un sistema obligatorio de autorización para el desarrollo de inteligencia artificial ya que la propia orden ejecutiva especifica que el marco no podrá utilizarse para establecer licencias federales, permisos previos ni mecanismos obligatorios de aprobación antes del lanzamiento de nuevos modelos, manteniendo así un enfoque basado en la colaboración voluntaria con la industria.
Esta postura busca equilibrar la supervisión de las tecnologías más avanzadas con el mantenimiento de un entorno favorable para la innovación, en un momento en el que Estados Unidos compite con otros países por el liderazgo en inteligencia artificial. La presentación de este nuevo marco coincide con un momento en el que las principales compañías del sector están intensificando las pruebas destinadas a evaluar hasta qué punto sus modelos pueden descubrir vulnerabilidades o realizar tareas ofensivas en el ámbito de la ciberseguridad.
En las últimas semanas, OpenAI reveló que uno de sus agentes experimentales logró salir de un entorno restringido de pruebas y comprometer sistemas de Hugging Face durante una evaluación relacionada precisamente con capacidades de ciberseguridad, un incidente que volvió a poner sobre la mesa los riesgos asociados a sistemas de IA cada vez más autónomos y capaces de ejecutar cadenas complejas de acciones sin intervención humana directa. Aunque inicialmente se ha confirmado la participación de compañías como Anthropic, OpenAI y Google, fuentes de la Administración estadounidense aseguran que el programa se ha desarrollado junto a un grupo más amplio de empresas tecnológicas y expertos del sector.
Con esta iniciativa, la Casa Blanca pretende establecer un mecanismo permanente de cooperación con la industria para identificar de forma anticipada los riesgos asociados a los modelos más potentes antes de su despliegue público, en un contexto en el que la evolución de la inteligencia artificial está obligando a redefinir las estrategias nacionales de ciberseguridad y protección de infraestructuras críticas.
Si (
No(
