Relaciones

Con el rápido desarrollo de la inteligencia artificial en el entorno doméstico y profesional, cada vez es más habitual encontrar equipos capaces de ejecutar complejos modelos de lenguaje en local. En este contexto, AMD ha lanzado GAIA, una potente herramienta de código abierto diseñada específicamente para sacar el máximo provecho a los procesadores Ryzen AI, especialmente los de la serie 300, gracias a su Unidad de Procesamiento Neuronal (NPU).


GAIA ha sido concebido como una alternativa eficiente, segura y optimizada frente a las soluciones que dependen del procesamiento en la nube. Su arquitectura híbrida basada en la colaboración entre la NPU y la GPU compuesta (iGPU) ofrece un rendimiento optimizado que promete cambiar la forma en que interactuamos con los modelos de lenguaje a gran escala (LLM).


GAIA es una plataforma de código abierto desarrollada por AMD para permitir a los clientes ejecutar modelos de lenguaje masivos (LLM) en sus PCs sin necesidad de conexión a internet. Esta solución aprovecha la potencia de la NPU y la iGPU de los procesadores Ryzen AI 300 Series, facilitando el uso local de IA generativa con baja latencia, mayor privacidad y eficiencia energética mejorada.

Gracias a su integración con el SDK Lemonade (LLM-Aid) de TurnkeyML, GAIA permite la inferencia de modelos por medio de ONNX y proporciona una API compatible con OpenAI.