月之暗面Kimi联合清华大学等机构开源共建大模型推理架构Mooncake

摘要:【月之暗面Kimi联合清华大学等机构开源共建大模型推理架构Mooncake】《科创板日报》28日讯,月之暗面Kimi和清华大学MADSys实验室联合9#AISoft、阿里云、华为存储、面壁智能、趋境科技等产学研力量共同发布开源项目Mooncake,共建以KVC

【月之暗面Kimi联合清华大学等机构开源共建大模型推理架构Mooncake】《科创板日报》28日讯,月之暗面Kimi和清华大学MADSys实验室联合9#AISoft、阿里云、华为存储、面壁智能、趋境科技等产学研力量共同发布开源项目Mooncake,共建以KVCache为中心的大模型推理架构,Mooncake技术框架今日已正式开源上线。

来源:财联社

相关推荐