摘要：GPU（Graphics Processing Unit）即图形处理单元，是计算机的图形处理及并行计算的核心。GPU 最初主要应用于加速图形渲染，如 3D 渲染、图像处理和视频解码等，是计算机显卡的核心；随着技术的发展，GPU 也被广泛应用于通用计算领域，如人
GPU（Graphics Processing Unit）即图形处理单元，是计算机的图形处理及并行计算的核心。GPU 最初主要应用于加速图形渲染，如 3D 渲染、图像处理和视频解码等，是计算机显卡的核心；随着技术的发展，GPU 也被广泛应用于通用计算领域，如人工智能、深度学习、科学计算、大数据处理等领域，用于通用计算的 GPU 被称为 GPGPU（GeneralPurpose computing on Graphics Processing Units），即通用 GPU。
GPU 与 CPU 在内部架构上有显著差异，决定了它们各自的优势领域。GPU 通过大量简单核心和高带宽内存架构，优化并行计算能力，适合处理大规模数据和高吞吐量任务；CPU通过少量高性能核心和复杂控制单元优化单线程性能，适合复杂任务和低延迟需求。
GPU 架构由流处理器（SM）、光栅操作单元、纹理单元、专用加速单元等多个关键组件组成，这些组件协同工作，以实现高效的通用计算和图形渲染。GPU 的计算架构由一系列流式多处理器（SM）组成，其中每个 SM 又由多个流式处理器、核心或线程组成，例如，NVIDIA H100 GPU 具有 132 个 SM，每个 SM 拥有 64 个核心，总计核心高达 8448 个；每个SM 还配备了几个功能单元或其他加速计算单元，例如张量核心（Tensor Core）或光线追踪单元（Ray Tracing Unit），用于满足 GPU 所处理的工作负载的特定计算需求。GPU 具有多层不同类型的内存，每一层都有其特定用途。
GPU 硬件性能可以通过多个参数综合评估，包括核心数量、核心频率、显存容量、显存位宽、显存带宽、显存频率、工艺制程等。GPU 的核心数量越多、核心频率越高，GPU 的计算能力越强。显存容量越大，GPU 能够处理的数据规模就越大；显存带宽越高， GPU 显存与核心之间数据传输的速率越快。GPU 的工艺制程越先进，GPU 性能越好、功耗越低。
GPU 架构对性能影响至关重要，不同架构下的硬件性能参数有所不同。GPU 架构的每次升级在计算能力、图形处理能力、能效比等多方面对性能产生了显著提升，所以 GPU 架构对性能影响至关重要。通过对比英伟达 GeForce 系列 RTX 3090、RTX 4090、RTX 5090，不同 GPU 架构下硬件性能参数有所不同。随着 GPU 架构的升级，GPU 厂商通常会采用更先进的工艺制程，比如英伟达从 8nm 工艺的 Ampere 架构升级到 4nm 工艺的 Blackwell 架构，在相同性能下，新工艺能够降低功耗，或者在相同功耗下提供更高的性能。
多 GPU 互连成为行业发展趋势，以提高系统的计算能力。随着 AI 大模型时代来临，AI算力需求不断增长， 由于单 GPU 芯片算力和内存有限，无法承载大模型的训练任务，通过多种互连技术将多颗 GPU 芯片互连在一起提供大规模的算力，已成为行业发展趋势。对于多GPU 系统，如何实现 GPU 之间的高速数据传输和协同工作是关键问题。
英伟达推出NVLink、NVSwitch 等互连技术，通过更高的带宽和更低的延迟，为多 GPU 系统提供更高的性能和效率，支持 GPU 之间的高速数据传输和协同工作，提高通信速度，加速计算过程等。NVLink 用于连接多个 GPU 之间或连接 GPU 与其他设备（如 CPU、内存等）之间的通信，它允许 GPU 之间以点对点方式进行通信，具有比传统的 PCIe 总线更高的带宽和更低的延迟。
NVSwitch 实现单服务器中多个 GPU 之间的全连接，允许单个服务器节点中多达 16 个GPU 实现全互联，每个 GPU 都可以与其他 GPU 直接通信，无需通过 CPU 或其他中介。经过多年演进，NVLink 技术已升级到第 5 代，NVLink 5.0 数据传输速率达到 100GB/s，每个Blackwell GPU 有 18 个 NVLink 连接，Blackwell GPU 将提供 1.8TB/s 的总带宽，是 PCIeGen5 总线带宽的 14 倍；NVSwitch 也升级到了第四代，每个 NVSwitch 支持 144 个 NVLink端口，无阻塞交换容量为 14.4TB/s。
更多行业研究分析请参考思瀚产业研究院官网，同时思瀚产业研究院亦提供行研报告、可研报告（立项审批备案、银行贷款、投资决策、集团上会）、产业规划、园区规划、商业计划书（股权融资、招商合资、内部决策）、专项调研、建筑设计、境外投资报告等相关咨询服务方案。
来源：思瀚研究院
