摘要:谷歌在美国举行了“GoogleCloudNext25”大会,正式发布了专为AI设计的第七代TPU(TensorProcessingUnit)加速器“Ironwood”,单芯片峰值算力可达4614TFLOPs。
谷歌在美国举行了“GoogleCloudNext25”大会,正式发布了专为AI设计的第七代TPU(TensorProcessingUnit)加速器“Ironwood”,单芯片峰值算力可达4614TFLOPs。
Ironwood计划于今年晚些时候面向Google云客户推出,将提供两种配置:256芯片集群和9216芯片集群。
据介绍,Ironwood是谷歌首款在其张量核和矩阵数学单元中支持FP8计算的TPU,而此前谷歌的TPU仅支持用于推理的INT8格式和处理以及用于训练的BF16格式和处理。
Ironwood还大幅增加高频宽内存(HBM)容量,每颗芯片的HBM容量提高到了192GB,达到了Trillium的6倍,可处理更大型的模型和数据集运算,减少频繁的数据传输需求。
同时,HBM带宽也大幅提升,Ironwood单颗芯片的内存带宽可达7.2Tbps,是Trillium的4.5倍,以确保数据快速存取。
来源:科学真理
免责声明:本站系转载,并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题,请在30日内与本站联系,我们将在第一时间删除内容!