La compañía pretende convertir esta familia de procesadores en su principal plataforma de inferencia para los productos y servicios que utilizan modelos de IA, con especial atención a la eficiencia energética y la capacidad de procesamiento. Para ello, ya ha empezado a producir los Maia 200, que ya ejecuta cargas de trabajo de Microsoft Copilot, y ha avanzado las claves de su nueva generación, Maia 300 que entrará en despliegue comercial en 2027.
Según las cifras compartidas por Microsoft, Maia 300 podrá procesar un 40% más de tokens por megavatio que los principales sistemas basados en GPU. Además, una configuración completa de 96 aceleradores alcanzará hasta siete veces el rendimiento de generación de tokens de Maia 200 a escala de rack.
La tercera generación de Azure Maia introduce una arquitectura diseñada específicamente para inferencia, con prioridad para los modelos de contexto extenso y las cargas de trabajo que necesitan un elevado ancho de banda de memoria.
Uno de sus principales avances es la incorporación de ocho módulos de memoria HBM4, capaces de proporcionar un ancho de banda máximo de 18 TB/s con una potencia de diseño térmico de 950 vatios. Además, Maia 300 utilizará una arquitectura de chiplets que separa las funciones de computación, control de memoria y entrada y salida. Los chiplets de procesamiento se fabricarán mediante el nodo N2P de TSMC, con el objetivo de mejorar el rendimiento por vatio.
Microsoft también ha desarrollado una arquitectura de flujo de datos definida por software, acompañada de optimizaciones de kernels asistidas por inteligencia artificial para reducir los movimientos de información entre los recursos de procesamiento, memoria y red, uno de los principales factores que limitan la eficiencia de los sistemas de inferencia.
Asimismo, el acelerador admitirá formatos de baja precisión como MXFP4 mejorado, que permiten reducir los requisitos de memoria y ancho de banda de los modelos.
La arquitectura de Maia 300 también introduce cambios en la conectividad interna de los centros de datos. Microsoft utilizará interconexiones de elevado ancho de banda entre aceleradores y un protocolo de transporte específico para IA basado en infraestructura Ethernet, lo que permite extender las comunicaciones desde un único rack hasta instalaciones completas, con una topología común para los recursos de computación, memoria y red. Para ello, cada rack de Maia 300 integrará 96 aceleradores dentro de un límite de potencia de 167 kW, con 27,6 TB de memoria HBM y un ancho de banda agregado de 1,7 PB/s.
Esta configuración está diseñada para atender un mayor número de interacciones simultáneas y ejecutar modelos más grandes sin incrementar proporcionalmente los recursos de infraestructura.
Con todo ello, Microsoft prevé iniciar los despliegues de producción de Maia 300 en 2027, dentro de una estrategia que busca ampliar la capacidad de inferencia de Azure y mejorar los costes operativos de sus servicios de inteligencia artificial.