摘要：国家知识产权局信息显示，海飞科（南京）信息技术有限公司申请一项名为“一种生成式语言模型分布式编码系统和方法”的专利，公开号CN119962575A，申请日期为2024年12月。

金融界2025年5月14日消息，国家知识产权局信息显示，海飞科（南京）信息技术有限公司申请一项名为“一种生成式语言模型分布式编码系统和方法”的专利，公开号CN119962575A，申请日期为2024年12月。

专利摘要显示，本发明公开了一种生成式语言模型分布式编码方法系统，包括多个设备，任意两个设备之间能够互相传递数据，设备上均部署了生成式语言模型；生成式语言模型包括若干个重复的注意力模块，各注意力模块被划分成3个部分，包括：第一部分，cacheK和cacheV的计算和输出；第二部分，cacheK和cacheV的存储；第三部分，cacheK和Q/K/V dense的Q的矩阵乘法，并输出给Softmax算子；其中，进行第二部分cacheK和cacheV的存储时，同时进行cacheK和cacheV的广播，将cacheK和cacheV的值存储于并行的设备中。本发明可以让大语言模型在多个设备上编码时，输入尽可能均匀分配。

天眼查资料显示，海飞科（南京）信息技术有限公司，成立于2019年，位于南京市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本5000万人民币。通过天眼查大数据分析，海飞科（南京）信息技术有限公司共对外投资了1家企业，参与招投标项目1次，专利信息22条，此外企业还拥有行政许可5个。

来源：金融界