AMD levanta controversia con su Ryzen AI Max+ 395: hasta 3 veces más rápida que la RTX 5080 en la IA DeepSeek R1… Tras agotarse los 16 GB de VRAM

Si has tenido interés en la inteligencia artificial más allá de usar los modelos que hay disponibles y has querido ir más allá para entrenar modelos o usarlos de forma local por tu cuenta, te habrás dado cuenta que de pide un ordenador con mucha memoria. En IA no es tan importante la potencia y velocidad si el factor limitante es la cantidad de memoria. Así pues, antes de decir que va a ir todo genial porque tenemos una CPU y una GPU tope de gama nos toca ver si hay memoria suficiente para los modelos que vamos a usar. De lo contrario, pasa como en las pruebas de AMD donde una APU Ryzen AI Max+ 395 logra ser hasta 3 veces más rápida que la RTX 5080 en la IA DeepSeek R1.

La inteligencia artificial generativa nos ha cambiado la forma en la que vemos y hacemos las cosas, pues con la IA hemos podido automatizar y pedir que nos haga distintas tareas para acabar mucho antes. Tanto si necesitas la IA para que te genere código de programación, para crear imágenes o música, vas a estar limitado por lo que puedes usarla dependiendo de tu suscripción y mucho más si eres un usuario gratuito. También te tienes que enfrentar a las colas en momentos en los que el servicio está saturado.

AMD muestra como su APU Ryzen AI Max+ 395 es mucho más rápida que la RTX 5080 una vez se superan los 16 GB de VRAM de esta

Si bien utilizando una IA como servicio externo tiene sus desventajas, tiene la gran ventaja de que no necesita nada de hardware para usarse, por lo que realmente puedes usarla en cualquier dispositivo. Ahora bien, si quieres tener tu el control de esta IA y no estar expuesto a las posibles limitaciones y problemas que tiene, tendrás que mirar alguna que te deje usarla de forma local. DeepSeek R1 salió hace poco y se hizo muy popular no solo por ser Open Source, sino por el hecho de que permite el modo local.

Así pues, tendrás que elegir entre uno de los varios modelos que dispone con distintos niveles de complejidad y ver si tu hardware es suficiente. AMD ha sacado pecho, ya que asegura que sus GPU son más rápidas que las de NVIDIA, tal y como vimos en la comparativa entre Radeon PRO W7800 y W7900 vs RTX 4090. Apenas unos días después de esa comparación, ahora tenemos una aún más bestia, pues AMD asegura que la APU Ryzen AI Max+ 395 es hasta 3 veces más rápida que la RTX 5080 en DeepSeek R1.

Podemos ver que esto ocurre al emplear DeepSeek R1 Distill Qwen 70B 4 bits, mientras que 32B 8 bits da 2,5 veces mejor rendimiento que la RTX 5080 y 32B 4 bits se conforma con ser 1,23x más rápida. En cambio, en Distill Qwen 14B 4 bits y Phi 14B 4 bits es un tercio de la RTX 5080 y finalmente en Phi 4 Mini 3,8B se queda a la mitad.

A Intel la supera usando modelos de IA de menos de 16 GB donde la memoria no debería ser un problema y es hasta 12,2x más rápida

Estos resultados pueden impresionar, pero AMD ha seguido la misma estrategia que con las Radeon PRO. Con la APU Ryzen AI Max+ 395 nos llama más la atención, pues claramente es menos potente a pesar de tener la iGPU más rápida de la compañía. Pero como puedes ver en el gráfico comparativo, cuando pierde contra la RTX 5080 es usando modelos de IA más sencillos y con menos millones de parámetros. Es cuando se sobrepasan los 16 GB de VRAM cuando supera fácilmente a la RTX 5080 ya que esta se ha quedado sin memoria, mientras que en esta prueba dotaron a la APU de AMD con 128 GB de RAM que pueden ser usados también por la GPU.

Ahora pasamos a las otras pruebas, donde la APU de AMD en la "tablet" ASUS ROG Flow Z13 aniquila a los portátiles equipados con Intel Core Ultra 7 258V y Arc 140V. Así pues, AMD es hasta 2,2 veces más rápido usando LLM de menos de 16 GB, hasta 4 veces más rápidos para conseguir el primer token, hasta 9,1 veces más rápido en IA con 7-8B y hasta 12,2 veces más rápido en modelos con 14B de parámetros. AMD asegura que esto es gracias a la combinación de núcleos Zen 5, NPU XDNA 2 de 50 TOPS y la GPU integrada, permitiendo usar hasta 128 GB de memoria unificada y 96 GB de estos se pueden destinar a la gráfica.

La entrada AMD levanta controversia con su Ryzen AI Max+ 395: hasta 3 veces más rápida que la RTX 5080 en la IA DeepSeek R1… Tras agotarse los 16 GB de VRAM aparece primero en El Chapuzas Informático.