AMD ha presentado la última versión de su software abierto, AMD ROCm 6.1.3, que marca el siguiente paso en su estrategia para hacer que el software ROCm esté ampliamente disponible en toda su cartera de GPU, incluidas las GPU de escritorio AMD Radeon. La nueva versión ofrece a los desarrolladores un soporte más amplio para que las GPU Radeon ejecuten cargas de trabajo de IA ROCm. «La nueva versión de AMD ROCm amplía la paridad funcional desde el centro de datos hasta los escritorios, lo que permite la investigación y el desarrollo de IA en plataformas fácilmente disponibles y accesibles», dijo Andrej Zdravkovic, vicepresidente senior de AMD.
Las mejoras de características clave de esta versión se centran en mejorar la compatibilidad, la accesibilidad y la escalabilidad, e incluyen:
- Compatibilidad con múltiples GPU para permitir la creación de escritorios de IA escalables para soluciones multiservicio y multiusuario.
- Compatibilidad de nivel beta con el Subsistema de Windows para Linux, lo que permite que estas soluciones funcionen con ROCm en un sistema basado en el sistema operativo Windows.
- La compatibilidad con TensorFlow Framework ofrece más opciones para el desarrollo de IA.
ROCm 6.1.3 ahora admite hasta cuatro GPU Radeon RX Series o Radeon PRO calificadas, lo que permite a los usuarios aprovechar las configuraciones con paralelismo de datos en las que cada GPU calcula de forma independiente la inferencia y genera la respuesta. Esto permite configuraciones multiusuario basadas en el cliente con tecnología del software AMD ROCm y GPU Radeon.
Con ROCm 6.1.3, facilitamos aún más el desarrollo para IA con compatibilidad de nivel beta con el Subsistema de Windows para Linux, también conocido como WSL 2. Esto significa que ahora puede ejecutar herramientas de IA basadas en Linux en un sistema Windows. WSL 2 elimina la necesidad de un sistema Linux dedicado o una configuración de arranque dual.
Además, anunciamos la calificación del marco TensorFlow, que proporciona otra opción para el desarrollo de IA además de PyTorch y ONNX, que ya eran compatibles, ampliando nuestro sólido ecosistema abierto de marcos y bibliotecas.
Además, estamos ampliando nuestra oferta de desarrollo de IA basada en el cliente con la introducción de la tarjeta AMD Radeon PRO W7900 de doble ranura, que incluye 192 aceleradores de IA y 48 GB de memoria GDDR6 rápida en un factor de forma compacto para una mayor densidad a nivel de sistema.
Las estaciones de trabajo AMD AI equipadas con una GPU Radeon PRO W7900 representan una nueva solución para ajustar y ejecutar inferencias en modelos de lenguaje grandes (LLM) con alta precisión. Por ejemplo, LLaMA-2 o LLaMA-3 con parámetros 70B cuantificados en INT4 requieren al menos 35 GB de memoria de GPU local, lo que hace que la GPU Radeon PRO W7900 con 48 GB de memoria integrada rápida sea la elección correcta para los flujos de trabajo que hacen uso de estos modelos.
La IA generativa para el procesamiento del lenguaje natural (NLP) que utiliza estos LLM puede ayudar a las empresas a adaptar la interacción con los clientes, ayudar con las operaciones de desarrollo (DevOps) y mejorar el proceso de gestión de datos y documentos.
AMD se compromete a crear un ecosistema abierto y altamente escalable con el software ROCm. Con la última versión del software ROCm 6.1 para GPU de escritorio Radeon, AMD permite a los fabricantes de sistemas aprovechar al máximo nuestra pila de soluciones mejorada para crear sistemas locales que agregan un potente rendimiento de IA a cualquier infraestructura de TI, lo que los hace ideales para proyectos de misión crítica o de baja latencia, y permite a las organizaciones mantener sus datos confidenciales internamente.
Con AMD ROCm 6.1 y la nueva tarjeta AMD Radeon PRO W7900 de doble ranura, que ya está disponible, la IA en computadoras de escritorio abre nuevas oportunidades para que los desarrolladores y las empresas aumenten la productividad, la creatividad y la innovación con rendimiento y facilidad de uso.
