摘要:英伟达已经与存储器制造商交换SOCAMM(Small Outline Compression Attached Memory Module)原型进行测试。其使用低功耗LPDDR5X内存,并采用了可拆卸模块设计,在性能和能效方面优于小型个人电脑和笔记本电脑使用的
此前有报道称,英伟达已经与存储器制造商交换SOCAMM(Small Outline Compression Attached Memory Module)原型进行测试。其使用低功耗LPDDR5X内存,并采用了可拆卸模块设计,在性能和能效方面优于小型个人电脑和笔记本电脑使用的传统DRAM。在GTC 2025上,SK海力士和美光都公布了自家的SOCAMM内存模块,英伟达计划用于Blackwell Ultra GB300产品线。
据TomsHardware报道,英伟达已经推迟了采用SOCAMM内存模块的计划,现在该为与下一代代号“Rubin”的GPU一起推出。传闻推迟的部分原因是英伟达改变了GB300的主板设计,从最初的Cordelia改成了Bianca设计。
Bianca设计是单主板上拥有2颗B300 GPU和1颗Grace CPU,可以支持SOCAMM内存模块,而Cordelia设计则是4颗GPU和2颗Grace CPU,利用SXM插槽接口相连,而且只能使用LPDDR内存模块。按照之前的说法,Cordelia设计存在信号丢失的问题。此外,SOCAMM也存在可靠性和发热问题。
与RDIMM相比,SOCAMM在相同容量下提供超过2.5倍的带宽,允许更快地访问更大的训练数据集和更复杂的模型,以及提高推理工作负载的吞吐量;
SOCAMM的尺寸为14 x 90 mm,仅为行业标准RDIMM尺寸的三分之一,可实现紧凑、高效的服务器设计;
利用LPDDR5X,SOCAMM产品的功耗仅为标准DDR5 RDIMM的三分之一,直接影响AI架构中的功耗性能曲线;
SOCAMM解决方案使用了4颗16-die堆叠的16Gb LPDDR5X颗粒,从而实现了128GB容量,结合128-bit位宽和8533 MT/s速率,对于更快的AI模型训练和增加推理工作负载的并发用户来说至关重要;
SOCAMM内存模块还有这优秀的可扩展性和可维护性,增强的纠错功能具有以数据中心为中心的测试流程,为数据中心提供了优化的内存解决方案。
与LPCAMM2类似,SOCAMM也是单面四颗粒,通过三固定螺丝孔固定。不过与LPCAMM2不同的是,SOCAMM顶部没有凸出的梯形结构,进一步降低了整体高度,更适合服务器的安装和液体散热环境。
来源:超能网