云天励飞:推出IPU-X6000加速卡支持近10个大模型

360影视 2025-01-10 15:31 1

摘要:有投资者在互动平台向云天励飞提问:“Edge200 成为第一颗纯国产工艺达到量产的大模型推理芯片,8卡服务器 MOE 推理效率超过国际领先水平”,董事长都已经公开发言了,所以关于公司推理服务器的信息希望不要遮遮掩掩,一问三不知了。

金融界1月10日消息,有投资者在互动平台向云天励飞提问:“Edge200 成为第一颗纯国产工艺达到量产的大模型推理芯片,8卡服务器 MOE 推理效率超过国际领先水平”,董事长都已经公开发言了,所以关于公司推理服务器的信息希望不要遮遮掩掩,一问三不知了。

公司回答表示:公司于2024年推出IPU-X6000加速卡。该产品具备256T算力、128GB显存容量、486GB/S显存带宽;采用C2C Mesh互联技术,可实现卡间高速互联,带宽达64GB/s,最大可实现64张卡的互联;可应用于语言、视觉、多模态等各类大模型的推理加速,目前已适配云天天书、通义千问、百川智能、Llama2/3等近10个主流大模型。IPU-X6000加速卡内置全国产工艺打造的大算力芯片DeepEdge200,该芯片采用D2D Chiplet技术,是基于DeepEdge10芯片平台打造的最新成果。DeepEdge10是云天励飞于2023年底正式发布的全国产14nm Chiplet大模型推理芯片。关于公司芯片产品的具体情况,请您持续关注公司披露的定期报告等公开信息。

来源:金融界

相关推荐