米哈游腾讯投的AI独角兽火出圈,背后竟有心动的人?
1月15日,MiniMax发布了公司首个开源模型——MiniMax-01系列,首次在4000亿以上参数的大模型中,使用了不同于传统Transformer架构的线性Attention机制架构,能高效处理的上下文长达400万token,达到了全球最长的水平。
1月15日,MiniMax发布了公司首个开源模型——MiniMax-01系列,首次在4000亿以上参数的大模型中,使用了不同于传统Transformer架构的线性Attention机制架构,能高效处理的上下文长达400万token,达到了全球最长的水平。