NVIDIA, Samsung, SK Hynix y Micron crean SOCAMM: el estándar de memoria para diseñar SuperPC de IA del tamaño de la palma de tu mano

NVIDIA es conocida principalmente por sus tarjetas gráficas y precisamente hace unas semanas lanzaron las RTX 50, de las cuales hemos visto muy pocas unidades y se les ha catalogado de hacer un paper launch. Aunque NVIDIA tiene su fama por sus GPU, también se encarga de desarrollar nuevas tecnologías y ahora está sumida en un proyecto para crear un nuevo estándar de memoria. NVIDIA se ha unido a SK Hynix, Micron y Samsung para crear este nuevo estándar llamado SOCAMM que irá dirigido a PC con IA.

Las tarjetas gráficas gaming y las profesionales o para IA se diferencian principalmente en la cantidad y tipo de memoria que usan. En el caso de las GPU gaming, ya hemos visto que estas emplean GDDR6, GDDR6X o GDDR7 en el caso de las últimas RTX 50 de NVIDIA. No obstante, esto cambia con las gráficas para uso profesional y para inteligencia artificial, debido a que estas emplean memoria HBM de gran ancho de banda y capacidad. Así es como hemos visto GPU que superan los 100 GB de memoria y esto es necesario para aplicaciones de este tipo.

NVIDIA, Samsung, SK Hynix y Micron se unen para crear un nuevo estándar de memoria "SOCAMM" para PC con IA

Las GPU para IA seguirán usando memoria HBM3E y HBM4 en un futuro, pero eso no implica que todos los dispositivos sigan ese camino. Resulta que NVIDIA quiere hacer ordenadores como el Project DIGITS, el cual probablemente recuerdes por ser una especie de superordenador compacto para IA. Este hace uso de un Superchip Grace Blackwell GB10 con una CPU Arm de 20 núcleos y 128 GB de memoria RAM DDR5X.

Con este chip y una GPU Blackwell con 1 PetaFLOP de FP4 para IA, es posible ejecutar LLM de hasta 200.000 millones de parámetros y hace uso de Linux para poder emplear todo tipo de herramientas. Inspirado en DIGITS, NVIDIA se ha unido a sus socios Samsung, SK Hynix y Micron para crear un formato de memoria llamado SOCAMM (System on Chip Advanced Memory Module). Esta es una evolución sobre el estándar CAMM solo que adaptado al sistema de chips de NVIDIA y estos fabricantes esperan poder fabricar la nueva memoria en masa este año 2025.

NVIDIA quiere que tengamos superordenadores para IA de pequeño tamaño o que incluso quepan en la palma de nuestra mano

SOCAMM tiene un mayor número de puertos E/S comparado con LPCAMM y DRAM, pues posee 694 puertos en total mientras que los otros dos tienen 644 y 260, respectivamente. Otra de sus ventajas es que SOCAMM sería más rentable que la DRAM convencional que emplea SO-DIMM. También es más pequeña de los módulos DRAM tradicionales y tiene un módulo desmontable para así hacer más fácil las actualizaciones. El objetivo de NVIDIA con esta memoria es que podamos tener PC del tamaño de la mano con una gran capacidad de IA.

Si tenemos en cuenta que la inteligencia artificial depende de la cantidad de memoria, este nuevo formato tiene sentido al poder usar memoria en un formato más pequeño y más eficiente. Según Jensen Huang, en un futuro los artistas, ingenieros y cualquier persona que esté involucrada en la IA necesitará superordenadores personales de pequeño tamaño y ahí es donde SOCAMM cobra sentido. No sabemos si en un futuro tendremos superordenadores DIGITS en nuestras casas, pero se espera que la próxima generación de estos hagan uso de dicha memoria.

La entrada NVIDIA, Samsung, SK Hynix y Micron crean SOCAMM: el estándar de memoria para diseñar SuperPC de IA del tamaño de la palma de tu mano aparece primero en El Chapuzas Informático.