摘要：金融界 2025 年 1 月 31 日消息，国家知识产权局信息显示，中电信数智科技有限公司申请一项名为“一种 LLM 的分布式训练方法、系统、设备和存储介质”的专利，公开号 CN 119378493 A，申请日期为 2024 年 9 月。

金融界 2025 年 1 月 31 日消息，国家知识产权局信息显示，中电信数智科技有限公司申请一项名为“一种 LLM 的分布式训练方法、系统、设备和存储介质”的专利，公开号 CN 119378493 A，申请日期为 2024 年 9 月。

专利摘要显示，本发明公开一种 LLM 的分布式训练方法、系统、设备和存储介质，方法包括：采集数据并进行数据清洗和预处理；将预处理后的数据划分成若干子集；将一部分数据子集作为训练集，剩下的数据子集作为验证集，在不同计算节点上分布式存储数据子集；各计算节点利用训练集对 LLM 进行分布式训练，以最小化 LLM 的损失函数为目标，达到最大训练轮次时各计算节点均输出一个初步训练好的 LLM；将各计算节点中的初步训练好的 LLM 进行集成，得到集成的 LLM；利用验证集和评估指标评估集成的 LLM，调整 LLM 的训练参数，得到最佳的 LLM；利用最佳的 LLM 进行自动内容创作。本发明进一步提升了资源利用率和计算性能，解决了计算复杂度高的问题，提高整体训练效率。

天眼查资料显示，中电信数智科技有限公司，成立于2001年，位于北京市，是一家以从事电信、广播电视和卫星传输服务为主的企业。企业注册资本300000万人民币，实缴资本300000万人民币。通过天眼查大数据分析，中电信数智科技有限公司共对外投资了16家企业，参与招投标项目5000次，知识产权方面有商标信息28条，专利信息812条，此外企业还拥有行政许可27个。

本文源自金融界

来源：金融界