摘要：近日，国家网信办发文通知，在全国范围内开展为期3月的“整治AI技术滥用”行动。一方面从AI技术出发，清理整治违规AI应用程序；另一方面聚焦利用AI技术制作发布的内容，集中清理违法不良信息，处置违规账号。

近日，国家网信办发文通知，在全国范围内开展为期3月的“整治AI技术滥用”行动。一方面从AI技术出发，清理整治违规AI应用程序；另一方面聚焦利用AI技术制作发布的内容，集中清理违法不良信息，处置违规账号。

一、第一阶段重点整治对象

网信办提出在第一阶段重点整治以下6类AI突出问题：

（一）违规AI产品

主要指利用生成式人工智能技术向公众提供内容服务，但未履行大模型备案或登记程序的。提供违法功能及在未授权情况下侵犯他人隐私的产品。

（二）传授、售卖违规AI产品教程和商品

利用违规AI产品伪造换脸视频、换声音频等教程信息。售卖违规“语音合成器”“换脸工具”等商品信息。营销、炒作、推广违规AI产品信息的。

（三）训练语料管理不严的AI产品

训练语料使用了非法来源数据或使用网上爬取的虚假不实内容的，未建立训练语料管理机制及未定期排查清理违规语料的AI产品

（四）安全管理措施薄弱的AI产品

未建立有效的违规账号管理机制，未定期开展安全评估的产品

（五）未落实内容标识要求的

未对深度合成内容添加显示标识，未向使用者提供或提示隐式、显式内容标识功能，导致虚假信息误导公众的产品

（六）重点领域安全风险

医疗、金融、教育等重点领域的AI产品，未针对性设置行业领域安全审核和控制措施，误导使用人群扰乱市场秩序的

二、第二阶段重点整治对象

第二阶段聚焦利用AI技术制作的传播内容，网信办列出了七大突出整治现象：

利用AI制作内容发布谣言利用AI制作发布不实信息利用AI制作发布色情低俗内容利用AI假冒他人实施侵权违法行为利用AI从事网络水军活动AI产品服务和应用程序违规侵害未成年人权益

三、大模型备案流程简介

清晰了解大模型备案的具体流程对于企业顺利完成备案，合法开展业务至关重要。

企业向属地网信办报备，领取上线备案申请表准备备案材料及测试账号，基础材料是一个备案申请表和五个附件。（不同地区要求的不同，具体要看当地网信办的材料要求，有的地区会多几个附件材料）将备案材料提交属地网信办进行专家评审和安全评测属地网信办通过初审后提交中央网信办进行材料复审中央网信办向六大部委征求意见，多部门协同审查，确认大模型符合备案要求后，备案即算通过备案结果会由中央网信办反馈至属地网信办，再择期进行备案公示