Meta ha anunciado el lanzamiento de Llama 3, la última versión de su modelo de lenguaje de código abierto. Esta nueva versión de Llama promete mejoras en el razonamiento y la versatilidad, consolidándose como un líder en su categoría y desempeñando un papel crucial en el ecosistema de asistentes de Meta AI.
Llama 3 se presenta en dos versiones distintas, cada una con un conjunto de parámetros optimizado. La primera cuenta con 8.000 millones de parámetros y otra con una cantidad de 70.000 millones de parámetros. Estos modelos, basados en texto, han sido entrenados y ajustados para ofrecer un rendimiento excepcional en una variedad de aplicaciones y escenarios.
Según un comunicado publicado en el blog de la compañía, Llama 3 representa un avance significativo en la capacidad de los modelos dentro de su escala de parámetros, superando a otros competidores líderes en el campo. Además, Meta destaca que esta nueva generación de Llama introduce capacidades que impulsan el rendimiento y la versatilidad del modelo.
Los datos compartidos por Meta revelan que Llama 3 supera a modelos de tamaño similar en el punto de referencia MMLU, que evalúa el conocimiento general de los modelos. En pruebas realizadas por personas en doce casos de uso clave, se demostró que Llama 3 70B supera incluso a GPT 3.5 de OpenAI.
El entrenamiento de Llama 3 se ha realizado con más de 15 billones de tokens recopilados de fuentes públicas. Este conjunto de datos es siete veces más grande que el utilizado para su predecesor, Llama 2. Meta ha aplicado rigurosos filtros y enfoques de calidad de datos para garantizar la fiabilidad y seguridad del modelo.
En un movimiento hacia la preparación para futuros casos de uso multilingüe, Meta ha incluido más del 5% del conjunto de datos de preentrenamiento de Llama 3 en más de 30 idiomas distintos al inglés.
En cuanto al uso responsable de la tecnología, Meta ha puesto a disposición de los usuarios recursos como Llama Guard 2, Code Shield y CyberSecEval 2, diseñados para garantizar un uso seguro del modelo y prevenir posibles abusos o ataques.
Disponibilidad de LLama 3
Los últimos modelos de Llama 3 ya están integrados en el asistente Meta AI y disponibles para su descarga. Próximamente, estarán disponibles en una variedad de plataformas, desde Amazon Web Services hasta Microsoft Azure, con soporte de hardware ofrecido por empresas como AMD, AWS, Intel y NVIDIA.
Meta ha adelantado que en los próximos meses introducirá nuevas capacidades, tamaños de modelo adicionales y mejoras de rendimiento para Llama 3, junto con la publicación de investigaciones relacionadas con este innovador modelo de IA.
Si (
No(
