摘要：国家知识产权局信息显示，维沃移动通信有限公司申请一项名为“模型训练方法、装置、设备及介质”的专利，公开号 CN 119129778 A，申请日期为2024年9月。

金融界2024年12月18日消息，国家知识产权局信息显示，维沃移动通信有限公司申请一项名为“模型训练方法、装置、设备及介质”的专利，公开号 CN 119129778 A，申请日期为2024年9月。

专利摘要显示，本申请公开了一种模型训练方法、装置、设备及介质，属于计算机技术领域。该模型训练方法应用于电子设备，电子设备包括图形处理器GPU、第一存储器和第二存储器，GPU与第一存储器电连接第存存储器与第二存储器电连接，该模型训练方法包括：通过GPU将低秩适配器LoRA参数嵌入到预训练的大模型中，得到待训练模型；在前向传播过程中，通过GPU基于训练样本计算待训练模型中各网络层的网络激活；通过第一存储器将GPU中的网络激活存储至第二存储器中；在反向传播过程中，通过第一存储器将第二存储器中存储的网络激活发送至GPU；通过GPU基于网络激活对待训练模型中的LoRA参数进行训练，得到训练后的大模型。

来源：金融界