摘要:在今年的国际消费类电子产品展览会(CES)上,NVIDIA带来了一项震撼业界的创新——Project DIGITS,这是一款专为个人AI开发者打造的超级计算机,标志着NVIDIA在“实现AI的普及化开发与部署”道路上迈出了关键一步。NVIDIA的创始人兼首席执
在今年的国际消费类电子产品展览会(CES)上,NVIDIA带来了一项震撼业界的创新——Project DIGITS,这是一款专为个人AI开发者打造的超级计算机,标志着NVIDIA在“实现AI的普及化开发与部署”道路上迈出了关键一步。NVIDIA的创始人兼首席执行官黄仁勋,在主题演讲中隆重介绍了这一突破性的产品。
Project DIGITS基于Linux系统,内置Arm CPU核心,为AI开发者们提供了一套强大的桌面级AI解决方案。这款超级计算机不仅性能卓越,而且设计初衷就是让AI技术的门槛更低,让每一位开发者都能轻松拥有。
Project DIGITS的核心在于其搭载的NVIDIA GB10 Grace Blackwell超级芯片。这款超级芯片集成了NVIDIA Grace CPU和NVIDIA Blackwell GPU,并配备了新一代CUDA® core和第五代TensorCores,通过NVIDIA NVLink®-C2C技术实现高效连接。它还拥有128GB的统一高一致性内存,为AI运算提供了强大的支持。
其中,NVIDIA Grace CPU采用了先进的高性能Arm Cortex-X和Cortex-A技术,包含10个Cortex-X925和10个Cortex-A725 CPU核心。这使得GB10超级芯片能够以FP4计算精度提供高达1 PFLOPS(1,000 TFLOPs)的AI性能,满足开发者对AI大模型的原型设计、微调和推理需求,同时实现与云端或数据中心环境的无缝对接。
Arm计算平台在Project DIGITS中发挥了至关重要的作用。它不仅使得新的AI模型和应用能够更高效、更快速地在边缘侧运行,还通过其灵活性,支持针对不同AI应用场景使用不同的计算引擎。在NVIDIA Project DIGITS中,基于Arm架构的NVIDIA Grace CPU和NVIDIA Blackwell GPU协同工作,为开发者提供了强大的异构计算能力,以最大化AI性能,同时管理内存利用率和功耗。
NVIDIA SoC产品副总裁Ashish Karandikar表示:“我们与Arm在GB10超级芯片上的合作,将NVIDIA的AI专业知识与Arm的可扩展计算平台相结合,实现了卓越的性能和能效。Project DIGITS的推出,意味着每位AI开发者和研究员都将能够拥有一台功能强大的超级计算机,这将极大地推动下一代AI创新。”
对于开发者而言,Project DIGITS提供的不仅仅是一款硬件产品,更是一个完全集成的软硬件AI平台。它基于开源Linux操作系统,用户可以访问NVIDIA丰富的AI软件库,包括NVIDIA NGC目录和开发者门户网站中提供的软件开发套件、编排工具、框架和AI模型。这些资源将极大地加速生成式AI的工作流程,提高开发效率。
Arm和NVIDIA在数据中心和边缘侧设备环境的合作,为开发者提供了一致的平台架构。这意味着开发者可以使用同一套工具进行AI应用开发,无论是在数据中心还是边缘侧设备,都能实现无缝对接。同时,Arm积极推动开源开发者社区的发展,目前已有超过2,000万软件开发者在Arm计算平台上构建自己的应用程序,共同推动AI技术的全面部署和创新。
Project DIGITS作为一款功能强大的个人计算机桌面平台,能够运行高达200B参数的AI大模型,让原本难以实现的AI应用成为可能。这一突破性的产品为全球数百万开发者带来了灵活、高性能且高能效的AI功能,将极大地推动AI技术的发展和创新。
来源:ITBear科技资讯