Meta Superintelligence Labs ha presentado Muse Glimmer, un nuevo modelo de inteligencia artificial con pesos abiertos que apuesta por llevar los agentes de IA al dispositivo, sin depender de la nube ni de una conexión a Internet, el modelo puede ejecutarse en un Mac o PC con una única GPU de consumo y está especialmente diseñado para tareas como programación, uso de herramientas y automatización de procesos.
Meta ha anunciado Muse Glimmer, su nuevo modelo orientado a la ejecución local de agentes de inteligencia artificial, la compañía ha decidido publicar sus pesos bajo una licencia Apache 2.0, permitiendo que desarrolladores e investigadores puedan descargarlo, ejecutarlo y adaptarlo a sus propias necesidades. El modelo cuenta con 30.000 millones de parámetros y ha sido diseñado específicamente para funcionar de forma continua en hardware de consumo, según Meta, su tamaño permite ejecutarlo en un ordenador Mac o PC equipado con una única GPU de consumo, abriendo la puerta a agentes capaces de trabajar directamente desde el dispositivo.
La propuesta de Muse Glimmer parte de una idea cada vez más relevante en el desarrollo de IA, no todas las tareas necesitan ejecutarse en servidores remotos, un modelo local puede funcionar sin conexión, mantener los datos dentro del dispositivo y responder de forma más inmediata en determinadas situaciones. Muse Glimmer no ha sido diseñado únicamente como un chatbot, Meta lo ha optimizado para actuar como un agente capaz de ejecutar tareas de varios pasos, utilizar herramientas y mantener un contexto durante procesos prolongados.
La compañía plantea escenarios en los que un agente pueda gestionar una agenda, redactar mensajes, organizar archivos o adaptarse progresivamente a la forma de trabajar de una persona, para ello, el modelo necesita combinar diferentes capacidades, entre ellas razonamiento de varios pasos, uso preciso de herramientas, comprensión multimodal, memoria de contexto largo y seguimiento de instrucciones. Meta asegura que Muse Glimmer puede trabajar con diferentes sistemas de orquestación de agentes y es compatible con herramientas como OpenClaw, también incorpora mecanismos de recuperación ante errores. Si una herramienta devuelve un resultado inesperado o una llamada falla, el modelo puede analizar lo ocurrido, intentar corregirlo y volver a ejecutar la acción en lugar de detener completamente el flujo de trabajo.
Muse Glimmer incorpora capacidades multimodales mediante un codificador específico de percepción, lo que permite procesar texto e imágenes de manera conjunta, esto abre la puerta a utilizar el modelo con capturas de pantalla, gráficos y documentos dentro de los flujos de trabajo de un agente. De esta forma, la IA no tiene que limitarse a interpretar instrucciones escritas, sino que puede utilizar información visual para completar determinadas tareas.
El modelo también admite diferentes niveles de esfuerzo de razonamiento, permitiendo priorizar velocidad o calidad dependiendo de las necesidades de cada tarea, además, ha sido entrenado con datos procedentes de más de 100 idiomas. Uno de los principales retos de llevar modelos avanzados al hardware local es su tamaño, Meta explica que un modelo de 30.000 millones de parámetros funcionando a precisión completa necesitaría más de 55 GB de memoria, una cantidad que supera ampliamente lo disponible en muchas GPU de consumo.
Para solucionar este problema, la compañía ha utilizado técnicas de cuantización, reduciendo los pesos del modelo hasta aproximadamente 4 bits, on esta compresión, Muse Glimmer puede ocupar menos de 20 GB, dejando espacio adicional para la memoria de trabajo, el codificador de imágenes y otros componentes necesarios para ejecutar el sistema, además, Meta afirma que sus pruebas muestran una degradación mínima o inexistente en las tareas agénticas después de aplicar esta compresión.
El modelo también se ha desarrollado mediante un proceso de destilación a partir de un modelo de mayor tamaño, durante el preentrenamiento, Muse Glimmer utilizó las salidas de Muse Spark mediante logit distillation, mientras que posteriormente recibió entrenamiento con datos de mayor contexto y más orientados a tareas agénticas. En la fase final se combinaron ajuste supervisado, destilación on-policy y aprendizaje por refuerzo en áreas como razonamiento, programación y uso de agentes.
Otro de los problemas de ejecutar modelos localmente es la velocidad de generación, los modelos de lenguaje generan normalmente los tokens de uno en uno, algo que puede resultar especialmente lento cuando un agente tiene que completar cadenas largas de razonamiento o realizar múltiples llamadas a herramientas, Muse Glimmer incorpora decodificación especulativa mediante un pequeño modelo auxiliar basado en DFlash.
Este modelo propone bloques completos de tokens que posteriormente son comprobados en paralelo por Muse Glimmer, los tokens correctos se aceptan y los incorrectos se corrigen, manteniendo la misma calidad de salida mientras se reduce el tiempo necesario para generar la respuesta. Según las mediciones de Meta, esta técnica permite multiplicar por 3,1 la velocidad de generación en una RTX 5090, por 1,8 en un Mac con M5 Max y por 1,5 en un Mac con M4 Max, la compañía asegura que estas mejoras permiten utilizar el modelo con una experiencia suficientemente fluida para conversaciones y agentes en tiempo real.
Meta ha probado Muse Glimmer en diferentes equipos de consumo y plantea el modelo como una alternativa para quienes quieran utilizar agentes sin depender permanentemente de servicios en la nube, esto puede resultar especialmente interesante para aplicaciones que trabajan con información personal, archivos locales o datos sensibles, ya que el procesamiento puede mantenerse dentro del propio dispositivo. Además, el funcionamiento local permite utilizar el modelo incluso cuando no existe conexión a Internet, la compañía también está trabajando con fabricantes como AMD, Arm, Dell, Intel y NVIDIA para optimizar el rendimiento de Muse Glimmer en diferentes plataformas.
Muse Glimmer ya está disponible con sus pesos abiertos en Hugging Face, acompañado de documentación para desarrolladores, Meta también prepara integraciones con herramientas y plataformas como llama.cpp, MLX y ExecuTorch, mientras que otros servicios como Ollama, LM Studio y Unsloth permitirán ejecutar el modelo localmente. Para despliegues a mayor escala, Muse Glimmer también podrá utilizarse con vLLM y SGLang, mientras que plataformas como Together AI, Fireworks AI y OpenRouter ofrecerán otras opciones para acceder al modelo. La compañía también permitirá personalizarlo mediante las herramientas de entrenamiento de PyTorch, incluido TorchTitan.