摘要：为了提高每瓦系统性能，半导体行业一直在寻求超越增加内存容量和数据速率的常规方法的创新解决方案。在过去十年中，高带宽内存 (HBM) 协议已被证明是数据中心和高性能计算 (HPC) 应用的热门选择。随着行业转向定制 HBM（custom HBM，简称cHBM)，
本文由半导体产业纵横（ID：ICVIEWS）编译自semiengineering
将HBM基片的功能集成到逻辑芯片中，可以提供更大的灵活性和额外的控制。
为了提高每瓦系统性能，半导体行业一直在寻求超越增加内存容量和数据速率的常规方法的创新解决方案。在过去十年中，高带宽内存 (HBM) 协议已被证明是数据中心和高性能计算 (HPC) 应用的热门选择。随着行业转向定制 HBM（custom HBM，简称cHBM)，可以实现更多优势，为片上系统 (SoC) 设计人员提供灵活性和控制力，使其根据应用实现更高的性能或更低的功耗和更小的面积。
HBM 越来越多地用于数据中心，用于要求苛刻的应用中的 AI/ML 和计算密集型工作负载。尽管需求加速给供应链带来了压力，但三大供应商的支持意味着最终客户可以拥有真正的多源采购。据悉，HBM 市场将以每年 42% 的速度增长，从 40 亿美元（2023 年）增长到 1300 亿美元（2033 年），主要受工作负载扩大的 AI 计算推动。到 2033 年，HBM 将占据整个 DRAM 市场的一半以上。
HBM 提供显著更高的内存带宽、更低的延迟和紧凑的外形尺寸（使用 3D 垂直堆叠来增加密度并缩短数据路径）。自 2013 年推出最初的 HBM 以来，JEDEC 一直制定着积极的发展路线图。正如最近的一篇博客文章中所述，当前的 HBM4 使每个堆栈的通道数增加了一倍，具有 2Kbit 接口、高达 6.4Gbps 的速度箱以及支持 16 高硅通孔 (TSV) 堆栈的选项。图 1 显示了带有处理器芯片和 HBM 堆栈的典型片上系统 (SoC) 设计。
图 1：带有硅中介层的传统基于 2.5D HBM 的 SoC。
处理器芯片和内存芯片堆栈之间的连接是通过硅中介层进行的，使用 HBM 标准定义的物理 (PHY) 层。使用中介层意味着，虽然 HBM 堆栈是完全 3D 的，但整个 SoC 仅为 2.5D，从而减少了潜在的空间节省。通过中介层的传播时间会减慢内存访问时间，从而降低潜在性能。目前，整个 HBM 内存堆栈（包括基础芯片）由 DRAM 供应商提供。这可能会限制设计灵活性，也是 cHBM 的动机。
定制 HBM 的关键是将基础芯片的功能集成到 SoC 团队设计的逻辑芯片中。这包括控制 I/O 接口、管理 DRAM 堆栈以及托管用于诊断和维护的直接访问 (DA) 端口。集成需要与 DRAM 供应商密切合作，但它为 SoC 设计人员提供了更大的灵活性和对 HBM 核心芯片堆栈访问方式的额外控制。他们现在可以紧密集成内存和处理器芯片，并根据应用优化功率、性能和面积 (PPA)。
SoC 设计人员可以自由配置和实例化他们的 HBM 内存控制器，以便使用 DFI2TSV 桥直接与 HBM DRAM 堆栈连接。逻辑芯片可以集成增强功能，例如可编程高质量 BIST 控制器、D2D 适配器和高速接口（例如通用 Chiplet 互连 Express (UCIe)），然后以全 3D 堆栈的形式与处理器芯片通信。现有设计可以重复使用，因为芯片是在逻辑工艺而非 DRAM 工艺中制造的。图 2 对比了 HBM 和 cHBM 方法。
图 2：HBM DRAM 堆栈概览。
cHBM 的优势在于可以显著减少数据路径上中介层引起的延迟以及相关的功耗和性能损失。它通过重复使用任何现有的直接芯片到芯片高速接口（如 UCIe），有效地拉近了内存和处理器芯片之间的距离。由此产生的灵活性可以在不同类型的场景中得到利用：
cHBM 的整体理念仍然很新，而且该技术仍在不断涌现。与任何创新一样，未来也面临挑战。将基础芯片功能集成到逻辑芯片中意味着最终用户必须从硅片生命周期管理 (SLM) 的角度考虑整个生命周期，包括设计、量产、生产量产和现场方面。例如，在晶圆级 HBM 芯片堆叠后筛查 DRAM 单元缺陷的负担现在落在了最终用户的身上。这引发了以下问题：
用户如何处理可能推荐的任何供应商特定的定制 DRAM 算法？用户是否可以在计划的停机时间内执行全面的现场 HBM 测试和诊断？成功部署 cHBM 需要一个全面支持的生态系统，将 IP 提供商、DRAM 供应商、SoC 设计人员和 ATE 公司聚集在一起。例如，由于互连的数量和密度，传统的 ATE 无法用于测试 cHBM。尽管如此，cHBM 承诺提供的额外灵活性显然引起了业界的关注，正如Marvell 最近与三大 DRAM 供应商联合发布的公告所示。
选择正确的合作伙伴对于 cHBM 的成功至关重要。Socionext 等合作伙伴已成功为 HBM 子系统部署了 Synopsys SLM 解决方案。使用 Synopsys SLM ext-RAM 和 SHS 解决方案的示例可用。Synopsys路线图上有几项支持 cHBM 的增强和改进。该公司正在与 DRAM 供应商、SoC 提供商、ATE 公司和最终用户合作，以加速 cHBM 的采用和使用。
*声明：本文系原作者创作。文章内容系其个人观点，我方转载仅为分享与讨论，不代表我方赞成或认同，如有异议，请联系后台。
想要获取半导体产业的前沿洞见、技术速递、趋势解析，关注我们！
来源：半导体产业纵横
