按需备货：查询头保留独立配置，键值头按组共享，减少重复计算灵活分餐：用repeat_interleave魔法，让每个厨师都能拿到对应组的食材高效出餐：相比MHA，直接砍掉2/3的KV存储量，长文本场景显存暴降75%！

键值 query 显存 kv gqa 2025-04-24 05:01  3