摘要：人工智能/机器学习(AI/ML)改变了一切，影响着每个行业，触及每个人的生活。AI正在催化广泛技术市场的惊人增长。这一点在AI训练集的增长中得到了有力体现，其增长速度每年达到10倍，并将在本十年继续增长。

人工智能/机器学习(AI/ML)改变了一切，影响着每个行业，触及每个人的生活。AI正在催化广泛技术市场的惊人增长。这一点在AI训练集的增长中得到了有力体现，其增长速度每年达到10倍，并将在本十年继续增长。

支持这一速度需要远远超出通过摩尔定律可以实现的技术进步，摩尔定律在任何情况下都在放缓，因此需要人工智能计算机硬件和软件在每一个方面都进行快速的持续改进。

HBM概述

高带宽内存 (HBM) 是一种标准化堆叠内存技术，它为堆栈内以及内存与逻辑之间的数据提供了非常宽的通道。

HBM 堆栈最多可容纳 8 个DRAM模块，每个模块通过两个通道连接。当前实现最多包含 4 个芯片，这大致相当于在很小的空间内容纳 40 个 DDR 内核。该项技术的吸引力在于 DRAM 芯片之间、模块与逻辑（中介层技术）之间的带宽，以及与 DRAM DIMM 相比较小的外形尺寸。

随着数据量的快速增长和计算需求的不断提高，传统的内存技术（如DDR和GDDR）已经无法满足新兴技术对内存带宽的需求。HBM的出现正好解决了这个问题，成为高性能计算和图形处理领域的关键技术。

HBM图

HBM发展

HBM1（高带宽内存1）

发布时间：2015年

技术特点：HBM1 是由JEDEC（联合电子设备工程委员会）定义的一种新型内存标准，首个广泛推出的 3D 内存技术。使用硅通孔（TSV）技术将多个内存芯片安装在一起，提供高带宽和低功耗。

每个堆栈的容量为1GB，最大总带宽为128GB/s，最开始于GDDR5（最大32GB/s带宽）提供了显著的带宽。

它的主要应用在高性能图形处理单元（GPU）和网络加速器中。

应用：AMD的Fiji架构显卡（如Radeon R9 Fury系列）正在鼓励采用HBM1技术的产品。

HBM2（高带宽内存2）

发布时间：2016年

技术特点：HBM2是对HBM1的改进，提供了更高的容量和更高的带宽。

每个堆栈的容量最大可达8GB，支持16GB的总内存容量，带宽提升至256GB/s以上。

它的内存频率大约为2-2.4Gbps，相对于HBM1而言，带宽和容量都有了显著的提高。

HBM2继续采用3D充足和TSV训练技术，并支持更高的数据传输速率，适用于高端图形处理、AI、超级计算等场景。

应用：NVIDIA的Tesla P100加速卡、AMD的Vega显卡、以及其他高性能计算平台广泛使用HBM2技术。

HBM2E（高带宽内存2增强型）

发布时间：2018年

技术特点：

HBM2E是HBM2的增强版本，进一步提升了带宽和性能，优化了内存访问延迟。HBM2E的带宽提升至16-20Gbps，总带宽可以达到900GB/s或更高，适合对数据吞吐量有极高要求的应用。

单个堆栈的容量最大为8GB或16GB，支持更高的带宽和更大的内存容量，尤其适用于高性能计算、深度学习、数据中心等领域。

应用：NVIDIA的Tesla V100和A100 GPU加速卡，以及AMD的Radeon VII显卡，均使用了HBM2E内存。

HBM3（高带宽内存3）

发布时间：2020年（预计）

技术特点：HBM3是目前高带宽内存技术的最新版本，提供了更高的带宽和更大的内存容量，目标是满足AI、大数据、5G、HPC等领域的需求。

每个堆栈的带宽可达6.4Gbps或更高，总带宽可达到1.6TB/s或以上，提供极为高速的数据传输。

它的每个堆栈容量可达32GB或更高，总内存容量支持上百GB，适用于更复杂的计算任务，如深度学习训练、科学计算、大规模模拟等。

应用：预计HBM3将大规模高性能计算、超算中心、大规模AI训练和推理等应用领域。

HBM3E（高带宽内存3增强型）

发布时间：预计在 HBM3 基础上一代推出

技术特点：HBM3E是在HBM3的基础上进一步提升带宽、延迟、能效和容量。

HBM3E预计将带来8Gbps以上的每通道带宽，总带宽可超过2TB/s，并能够支持64GB或更高容量的堆栈。

它不仅能够支持大规模计算、超高带宽要求的AI模型训练和推理任务，还能够满足超计算中心、大规模数据中心的内存需求。

应用：预计HBM3E将广泛评价未来的GPU加速器、AI处理单元、超级计算机、自动驾驶和嵌入式系统。

美光12层HBM3e

HBM企业

美光科技

美光是全球第三大内存供应商，尽管在HBM技术上起步稍晚于三星和SK海力士，但美光依然在此领域有着重要布局。美光以其在内存和存储技术方面的广泛经验，在HBM市场中逐渐积累了竞争力。

技术发展：HBM2：美光在HBM2市场上逐渐发力，推出了支持高带宽、高容量和低延迟的内存解决方案，主要应用于GPU、AI加速卡、服务器和高性能计算平台。

HBM2E与HBM3：美光同样在研发HBM2E和HBM3方面进行布局，持续提高内存带宽、容量和功耗效率，确保在未来市场中能够保持竞争力。

合作与研发：美光与多个科技巨头，包括NVIDIA和AMD，保持密切合作，推动高性能计算与AI技术的发展。

应用拓展：除了在高端GPU市场的应用，美光还通过将HBM内存推广至高性能计算（HPC）、数据中心、云计算等多个领域，拓宽其市场份额。

美光HBM3E介绍图

Intel

英特尔虽然主要以CPU和半导体技术为主，但其也在积极布局HBM技术，尤其在高性能计算和超算领域中，英特尔与其他企业合作开发高带宽内存解决方案。

合作开发：英特尔并未完全独立研发HBM内存，而是与SK海力士和三星等内存厂商合作，共同开发面向AI、深度学习、超算等领域的HBM解决方案。

高带宽内存的未来布局：英特尔的多个加速器和处理器（如Xe GPU系列）都计划采用HBM内存技术，以提供更高的内存带宽，支持更高效的数据处理。

集成与创新：英特尔在高性能处理器中积极集成HBM内存，推动其与自身的处理器架构深度集成，以提升整体计算性能。

进军新兴市场：英特尔着眼于AI和大数据市场，希望通过与内存制造商合作，共同打造下一代内存解决方案。

Intel Gaudi 3 产品

三星电子（Samsung Electronics）

三星电子是全球领先的半导体制造商之一，也是高带宽内存（HBM）技术的先锋之一。三星在HBM领域的投入始于HBM1，并不断推动HBM2、HBM2E及HBM3的技术创新。

技术发展：HBM1：三星是最早将HBM1技术商业化的公司之一，成为首批提供HBM内存的供应商，推出了针对高性能计算和GPU的解决方案。

HBM2/HBM2E：三星继续推进HBM2和HBM2E的研发，并在多个高端GPU、AI加速卡和超算平台中采用其技术。HBM2E内存已经被广泛应用于NVIDIA、AMD等大厂的图形处理单元（GPU）和加速器中。

HBM3：三星在HBM3领域也有所突破，并计划在2025年开始大规模生产HBM3内存，继续巩固其在高带宽内存市场的领导地位。

合作伙伴关系：三星与AMD、NVIDIA等图形和计算芯片巨头有着深度合作，推动HBM内存在各种高端设备中的应用。

生产能力：三星在全球范围内拥有领先的内存生产设施，通过持续投资扩大产能，以满足市场对高性能内存日益增长的需求。

三星HBM2E官网图

SK海力士（SK Hynix）

SK海力士是全球第二大内存制造商，仅次于三星，且在HBM领域有着强大的技术储备和市场份额。SK海力士积极推动HBM技术的进步，特别是在HBM2、HBM2E和HBM3方面，已成为HBM内存的主要供应商之一。

技术发展：HBM1和HBM2：SK海力士在HBM1和HBM2的研发中扮演了重要角色，成为全球首批推出HBM2内存产品的公司之一。

HBM2E：在HBM2E技术上，SK海力士进一步提升了带宽和容量，能够提供更高的带宽，满足现代数据中心、AI训练和高性能计算等需求。

HBM3：SK海力士计划在未来几年推出HBM3，并提升带宽以满足下一代超高性能计算平台、AI加速器和大规模数据处理的需求。

强大的研发能力：SK海力士不断在HBM研发上进行投资，建立了强大的技术团队，推动从HBM2到HBM3的持续演进。

产品多样化：SK海力士不仅生产用于GPU和AI加速器的HBM内存，还为服务器、数据中心和超级计算机等市场提供HBM解决方案。

SK Hynix HBM3E图

其他相关企业与创新

除了三星、SK海力士、美光和英特尔外，还有一些小型企业和新兴公司在HBM技术领域进行创新和研发。它们通常专注于内存封装技术、3D堆叠、硅通孔（TSV）技术等，推动内存技术的进一步发展。

Advanced Semiconductor Engineering (ASE) 和 Amkor Technology 等封装公司，正在积极研发创新的封装技术，以更高效地集成HBM内存并降低生产成本。

台湾半导体制造公司（TSMC）：虽然TSMC本身不生产内存芯片，但其作为全球领先的半导体代工厂商，为HBM内存的生产提供了重要的制造支持。

市场挑战与未来趋势

挑战：

高成本与复杂生产工艺：HBM技术仍面临较高的生产成本，特别是在3D堆叠技术和硅通孔（TSV）技术的应用中，成本较高的制造过程仍然是技术普及的障碍之一。

产能瓶颈：目前，HBM内存的生产主要集中在几家主要的内存制造商手中，其他厂商面临较高的市场准入门槛。

市场竞争：随着GDDR技术的不断进步，尽管HBM提供了更高的带宽和效率，但其成本高昂的特性仍然使其难以在消费级市场广泛推广。

未来趋势：

技术不断演进：随着AI、深度学习、数据分析和超算市场的需求持续增加，HBM技术将不断进化。HBM3、HBM3E等新一代技术将推动内存带宽和容量的进一步提升。

广泛应用：随着新兴市场的崛起，HBM将在更多领域中发挥作用，尤其是在高端计算、GPU加速、AI硬件等领域。

更高的集成度与性价比：未来，随着制造工艺的改进和技术的成熟，HBM有望逐步降低成本，逐渐进入更多的消费级市场。

结论：

HBM技术的快速发展，吸引了多家全球领先的半导体企业的关注和投入。三星、SK海力士和美光等公司已经在此领域取得了显著进展，并推动了高性能计算、AI和GPU领域的技术进步。尽管面临挑战，随着生产技术和制造工艺的不断提升，HBM的市场应用前景依然广阔，未来将成为推动现代计算和数据处理平台创新的关键因素。

来源：“未来半导体”