摘要:国家知识产权局信息显示,新紫光集团有限公司申请一项名为“一种数据推理方法、系统、设备和存储介质”的专利,公开号 CN 119294401 A,申请日期为2024年9月。
金融界2025年1月15日消息,国家知识产权局信息显示,新紫光集团有限公司申请一项名为“一种数据推理方法、系统、设备和存储介质”的专利,公开号 CN 119294401 A,申请日期为2024年9月。
专利摘要显示,本申请公开了一种数据推理方法、系统、设备和存储介质,该方法包括:主节点基于Transformer模型的当前层的输入词元,生成查询向量、键向量和值向量,并将键向量和值向量添加于主节点的本地键值缓存;主节点通过网络设备向多个从节点广播查询向量;多个节点基于查询向量和多个节点各自的本地键值缓存进行注意力计算,得到多个节点分别对应的初始注意力向量;多个从节点通过网络设备向主节点发送各自的初始注意力向量;网络设备将多个从节点分别对应的初始注意力向量进行聚合处理,得到目标注意力向量;主节点通过Transformer模型,基于目标注意力向量进行模型推理,得到输出词元。这样可以减少推理时间,降低网络带宽需求。
天眼查资料显示,新紫光集团有限公司,成立于1993年,位于北京市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本67000万人民币,实缴资本67000万人民币。通过天眼查大数据分析,新紫光集团有限公司共对外投资了38家企业,参与招投标项目31次,知识产权方面有商标信息971条,专利信息1条,此外企业还拥有行政许可13个。
来源:金融界
免责声明:本站系转载,并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题,请在30日内与本站联系,我们将在第一时间删除内容!