MediaTek ha anunciado una estrecha colaboración con Llama 2 de Meta, el Modelo de Lenguaje Grande (LLM) de código abierto de próxima generación de la compañía. Mediante la utilización del LLM de Meta y las últimas Unidades de Procesamiento de Aplicaciones (APUs) y la Plataforma de Inteligencia Artificial NeuroPilot de MediaTek, la empresa tiene como objetivo construir un ecosistema completo de edge computing diseñado para acelerar el desarrollo de aplicaciones de IA en smartphones, dispositivos de Internet de las cosas (IoT), vehículos, hogares inteligentes y otros dispositivos.
En la actualidad, la mayoría del procesamiento de IA generativa se realiza a través de la computación en la nube. Sin embargo, el uso de los modelos Llama 2 de MediaTek permitirá que las aplicaciones de IA generativa se ejecuten directamente en el dispositivo. Esto ofrece varias ventajas a los desarrolladores y usuarios, como un rendimiento fluido, mayor privacidad, mejor seguridad y fiabilidad, menor latencia, la capacidad de trabajar en áreas con poca o ninguna conectividad, y un menor coste de operación.
Para aprovechar al máximo la tecnología de IA generativa en el dispositivo, los fabricantes de dispositivos de edge deberán adoptar procesadores de IA de alto rendimiento y bajo consumo energético, así como una conectividad más rápida y fiable para mejorar las capacidades de cómputo.
De este modo, el próximo chipset insignia de próxima generación de MediaTek, que se presentará a finales de este año, contará con una pila de software optimizada para ejecutar Llama 2, así como una APU mejorada con aceleración basada en la estructura Transformer, acceso y uso reducido de la capacidad de memoria DRAM, mejorando aún más el rendimiento de LLM y AIGC. Estos avances facilitan un ritmo acelerado para la creación de casos de uso para la IA generativa en el dispositivo.
"Nuestra visión es proporcionar a los desarrolladores y usuarios de Llama 2 las herramientas necesarias para innovar plenamente en el espacio de la IA"
"La creciente popularidad de la IA generativa es una tendencia significativa en la transformación digital, y nuestra visión es proporcionar a la emocionante comunidad de desarrolladores y usuarios de Llama 2 las herramientas necesarias para innovar plenamente en el espacio de la IA", señala JC Hsu, vicepresidente y director general de la Unidad de Negocios de Comunicaciones Inalámbricas de MediaTek. "A través de nuestra colaboración con Meta, podemos ofrecer hardware y software con capacidades mucho mayores en el borde que nunca antes", apunta el directivo.
MediaTek espera que las aplicaciones de IA basadas en Llama 2 estén disponibles para los smartphones alimentados por el chipset insignia de próxima generación, programado para llegar al mercado a finales de año.
Si (
No(
