摘要:国家知识产权局信息显示,成都九洲电子信息系统股份有限公司申请一项名为“基于数据并行与模型并行的神经网络整合训练方法及系统”的专利,公开号CN119849557A,申请日期为2024年12月。
金融界2025年4月21日消息,国家知识产权局信息显示,成都九洲电子信息系统股份有限公司申请一项名为“基于数据并行与模型并行的神经网络整合训练方法及系统”的专利,公开号CN119849557A,申请日期为2024年12月。
专利摘要显示,本发明公开了基于数据并行与模型并行的神经网络整合训练方法及系统,方法包括:在若干训练单元上分别部署目标神经网络的卷积神经网络结构和全连接层分割结构;按数据并行的方式完成各卷积神经网络结构的计算,按模型并行的方式完成各全连接层分割结构的计算;合并各全连接层分割结构的输出,得到训练预测值;利用训练预测值,通过改进的Softmax方法计算各全连接层分割结构的损失函数和反向传播梯度,并将反向传播梯度同步更新至各卷积神经网络结构;重复上述步骤,完成目标神经网络的训练。本发明能够在保证高效性的同时,显著降低显存消耗,减少通信开销,优化计算负载的分配,提供更强的扩展性,为大规模神经网络的训练提供更加高效、可靠的解决方案。
天眼查资料显示,成都九洲电子信息系统股份有限公司,成立于2006年,位于成都市,是一家以从事研究和试验发展为主的企业。企业注册资本33899万人民币。通过天眼查大数据分析,成都九洲电子信息系统股份有限公司共对外投资了2家企业,参与招投标项目273次,财产线索方面有商标信息96条,专利信息317条,此外企业还拥有行政许可7个。
来源:金融界