腾超

深度揭秘华为昇腾超节点！不盲目自信也不妄自菲薄

刚刚，华为联合硅基流动悄悄发了一篇论文，把自家的昇腾超节点CloudMatrix 384狠狠“安利”了一把。

另一个是MoE架构，中文名称是混合专家模型，相对应的概念是稠密（Dense）模型。如果说稠密模型一个“通才”，由一个“专家”处理多种不同的任务，MoE则是将任务分门别类，分给多个“专家”进行解决。