英伟达介绍未来AI加速器设计:引入3D垂直堆叠DRAM和硅光子技术

摘要:近日在IEDM 2024大会上,英伟达介绍了对未来人工智能(AI)加速器的设计,计划在迭代产品中追逐这一愿景。目前芯片的设计和封装正在取得突破,不过未来人工智能加速器可能需要一些额外的改进来提升性能。

近日在IEDM 2024大会上,英伟达介绍了对未来人工智能(AI)加速器的设计,计划在迭代产品中追逐这一愿景。目前芯片的设计和封装正在取得突破,不过未来人工智能加速器可能需要一些额外的改进来提升性能。

据TECHPOWERUP报道,分析师Ian Cutress分享了英伟达在这次学术会议上的内容,提出设计方案将引入硅光子技术(SiPh),作为I/O器件。这标志着与传统互连技术有着明显的区别,传统互连技术过去一直受到了铜制材料的自然特性限制。

新架构采用垂直供电和多模块设计,将集成硅光子I/O器件,运用了3D垂直堆叠DRAM内存,并在模块内直接整合了冷板。其需要12个硅光子I/O器件来实现芯片内和芯片间的连接,每个GPU模块有三个连接,每层有四个GPU模块,每个GPU模块与六个DRAM内存模块垂直连接。这种堆叠DRAM内存与GPU模块之间实现了直接电气连接,类似于更大范围的AMD 3D V-Cache技术。

硅光子I/O器件的大规模制造将是一个特殊的调整,预计英伟达需要每月生产超过100万个这类器件才能满足需求。同时英伟达还需要解决模块堆叠带来的散热问题,可能要引入更先进的材料。英伟达正在探索创新的解决方案,不过这种设计距离商业化还需要一段时间,预计要等到2028年至2030年之间某个时刻才能投入使用。

来源:超能网

相关推荐