KAIST y POSTECH lo confirman: «Intel Gaudi 3 es hasta 1,2 veces más rápida en inferencia que la A100 en Llama», ¿por qué entonces NVIDIA vende más?

En el panorama actual de la Inteligencia Artificial, donde las inversiones no paran de crecer, Corea del Sur ha puesto más luz contra algo controvertido de por sí mediante una colaboración poco habitual pero muy prometedora. Intel, Naver y KAIST han demostrado que es posible competir con NVIDIA en el desarrollo y despliegue de modelos avanzados de IA, tanto a nivel de investigación como de servicios. ¿La clave? La GPU Gaudi 3 de Intel, que está empezando a posicionarse como una opción seria frente a las populares GPU de la competencia como la A100 o la H100 de NVIDIA.

Mientras todo el mundo lidia con los altos precios y la escasa disponibilidad de tarjetas gráficas de NVIDIA, el tridente coreano ha decidido abrir camino por su cuenta. Ya no se trata solo de buscar alternativas: se trata de construir un nuevo modelo de colaboración entre empresas tecnológicas, universidades y centros de datos para romper con el ecosistema cerrado que domina la industria. ¿Tiene que estar NVIDIA preocupada? Pues por lo pronto, en dicho país lo va a tener más complicado.

Gaudi 3 conquista Corea del Sur y podría desplazar a NVIDIA en el largo plazo

Desde el país asiático y tras 6 meses de investigación y desarrollo para poder valorar el hardware en entornos reales, Naver, KAIST, POSTECH y la Universidad Nacional de Seúl, sin olvidar a la propia Intel, presentan sus resultados donde el profesor Kim Jeong-ho dejó claro que lo logrado podría abrir distintas puertas al entorno cerrado que presentan los verdes:

“Este estudio tuvo como objetivo romper el ecosistema centrado en NVIDIA al unir campos que estaban separados, como semiconductores, servicios de IA e investigación académica, y comenzamos en serio en agosto del año pasado para promover el crecimiento de la industria de la IA.”

Los avances no se han quedado en teoría. Durante un evento celebrado el 29 de mayo, Intel Korea y sus socios presentaron datos reales sobre el rendimiento de Gaudi 3 en distintos escenarios, incluyendo modelos de lenguaje y memoria de alto ancho de banda (HBM).

Los resultados fueron, como mínimo, sorprendentes: en pruebas con LLaMA, modelo de código abierto como sabemos, Naver logró una velocidad de inferencia un 20% superior al A100 de NVIDIA. Y todo esto en solo seis meses desde el arranque del proyecto.

Intel trae varias ventajas que podrían ser el talón de Aquiles de los verdes en el mercado

Desde Intel Corea no ocultan su entusiasmo, incluso en pleno reinado de NVIDIA. Consideran que Gaudi 3 no solo es más asequible que sus rivales, que lo es, sino que también ofrece ventajas operativas claras: no depende de ecosistemas cerrados, se integra fácilmente con distintas plataformas y ha demostrado una eficiencia energética y de coste notable:

“En términos de rendimiento de investigación, esto se ha convertido en una oportunidad para superar al MIT en EE.UU. Con el apoyo activo de Intel y el suministro de software de Naver, hemos logrado resultados en muchas áreas, como el uso de IA en el diseño de HBM, así como el aprendizaje de refuerzo de IA. La ventaja de Gaudi 3 no es solo que es más barata que las GPU de NVIDIA; también ha demostrado su rendimiento a través de numerosos experimentos.

Por ello, puede contribuir a la expansión del ecosistema de IA, ya que no depende de una red específica como la GPU de NVIDIA, sino que permite la colaboración con una gama más amplia de empresas.”

No es la primera vez que escuchamos algo similar, aunque no tan bueno como ha sido en esta ocasión. Puede que Intel comience a ver la luz al final del túnel después de todo, ya que ha firmado acuerdos con IBM, Microsoft y Dell con Gaudi 3 en sus servidores de IA. Y es que los últimos benchmarks independientes también lo avalan: frente al Llama-3.1-405B de Meta, Gaudi 3 mostró una eficiencia de costes un 92% mejor y un rendimiento de hasta un 43% más tokens por segundo que la GPU más puntera del mercado.

Entonces, ¿por qué Intel no está vendiendo como churros su Gaudi 3? La respuesta se llama CUDA, y solo con ello ya las empresas se ahorran una cantidad de tiempo tan sumamente brutal con su ecosistema que es difícil que salgan de ahí. Como hemos visto, a Gaudi 3 no le vale con superar a la A100 o H100, requiere optimización de su ecosistema, y hasta que no coja vuelo, poco podrán hacer contra los verdes, y si no, que se lo digan a AMD con Instinct y ROCm.

La entrada KAIST y POSTECH lo confirman: «Intel Gaudi 3 es hasta 1,2 veces más rápida en inferencia que la A100 en Llama», ¿por qué entonces NVIDIA vende más? aparece primero en El Chapuzas Informático.