摘要：人工智能技术创新的强劲风潮正在席卷各行各业，海量数据信息在智能算法的驱动下，展现出了前所未有的高效生产力。但在看似井然有序的运行环境中，却暗藏着人工智能治理的难题，部分信息内容中夹杂着一些难以察觉的“幻觉”，侵权造谣、虚假信息、算法缺陷等隐患，给治理和监管带来

人工智能技术创新的强劲风潮正在席卷各行各业，海量数据信息在智能算法的驱动下，展现出了前所未有的高效生产力。但在看似井然有序的运行环境中，却暗藏着人工智能治理的难题，部分信息内容中夹杂着一些难以察觉的“幻觉”，侵权造谣、虚假信息、算法缺陷等隐患，给治理和监管带来了挑战。

2025年全国两会期间，多位全国人大代表、政协委员针对AI分享了自己的观察和建议，以推动形成更加科学和高效的综合治理框架。

AI技术滥用成风险

作为一种极易上手的人工智能应用，AI合成技术常被用于生成逼真的图像、生动的视频和自然的语音，如今其正在成为制造和传播虚假信息的重要手段。

作为科技界的领军人物，全国人大代表、小米集团创始人雷军是该项技术的“受害者”之一。2024年国庆节假期期间，短视频平台涌现出了大量以“雷军AI配音”为幌子的恶搞视频。

“‘AI换脸拟声’的滥用成了违法侵权行为的重灾区，其容易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为，甚至会造成难以挽回的形象和声誉损害，给社会治理带来风险。”雷军表示，由于AI深度合成技术具备所需素材获取便利、技术使用门槛低、侵权主体及手段隐蔽性强等特点，这为AI的监管和治理带来了较大挑战。

此外，与人工智能技术相关的伦理价值观也再次引发关注。南都大数据研究院梳理显示，在2024年记录的220起AI风险事件中，AI技术滥用与违法侵权事件数量超过110起，AI决策失误与伦理争议事件数量超过53起，AI造谣与虚假信息传播事件数量占比超过44起，还有一些AI安全威胁与数据泄露的事件。

尽管人工智能在许多技术创新领域取得了显著进展，但其在决策过程中仍可能受到数据偏差、算法缺陷等因素的影响，导致产生了不准确或不合理的决策。

“作为一种新兴的智能技术，人工智能可能造成认知偏见和价值歧视。依靠带有偏见的数据训练AI大模型，会延续甚至放大社会的不平等，甚至带来种族、民族、性别、宗教或文化等社会歧视。在开发AI过程中，必须关注价值观的问题，确保AI与人类价值观对齐。尤其是对深入人们日常生活的AI智能体的价值观，更需要与人类价值观对齐，以避免意想不到的风险。”中共中央党校（国家行政学院）督学专家、教授丁元竹在接受中国经济时报记者采访时说道。

丁元竹表示，当前投入在AI安全领域的精力、时间、金钱和资源远远不足，这也成为了大模型落地行业的难题之一。“目前，全球99%的算力用于大模型预训练，只有1%的算力用于价值对齐或安全研究，这使得人工智能安全技术发展滞后。”

多方呼吁综合性法规落地

面对大语言模型的快速发展，国家网信办等部门联合发布了《生成式人工智能服务管理暂行办法》，目前已有超过200个人工智能大模型完成了备案程序。但上述办法仅针对生成式人工智能，无法全面涵盖人工智能领域的各类问题和应用场景。

在今年全国两会期间，多位全国人大代表和政协委员呼吁，要启动立法研究并制定专门的人工智能综合性法律。

“人工智能综合性法律应兼具未来法、基本法、保护法三重属性，既能引领技术伦理重构，又能奠定规则基石，还能守护人的主体性。”北京国际城市发展研究院创始院长连玉明说。

全国人大代表、科大讯飞董事长刘庆峰强调了在敏感领域制定行业准入标准的重要性，他提出，要系统性构建“AI+医疗”标准规范。全国人大代表、长安汽车董事长朱华荣也提出，需加快完善自动驾驶标准和法规，尤其是涉及自动驾驶交通事故责任的划分、保险系数、市场监管等方面需要进一步规范。

“当前，谁来负责人工智能的决策是需要进一步深度探索的问题，尤其是在医疗保健、刑事司法和自动驾驶汽车等方面，这些都属于高风险领域，相关问题不能被忽视。未来，必须明确AI行为的责任主体，因为其涉及税收、风险责任等一系列问题。”丁元竹说道。

在他看来，AI智能体不具备法律主体资格，其行为后果需由设计者、运营者或使用者承担连带责任。国家也需要制定一套动态法律体系来覆盖数据隐私、算法歧视、AI侵权等方面的问题。

用AI技术对抗化解AI风险

针对AI技术伪造的风险，雷军与TCL创始人兼董事长李东生建议，应对人工智能生成的内容进行强制标识，这有助于公众识别AI生成的内容，并增强对虚假信息的警惕性。

“我们关注的是艺术设计、游戏制作和影视动画等领域，深知用户在创作视频时对版权问题的担忧。为此，公司有相应的功能技术来确保客户视频的原创性。例如，通过‘首尾帧’功能固定视频的首尾部分并进行标识，这不仅保证了视频的原创性和真实性，还能有效避免侵权问题。”生数科技有限公司相关负责人告诉中国经济时报记者。

而面对上述挑战，AI技术本身也提供了应对之道。

在2024绿盟科技TechWorld智慧安全大会上，中国工程院院士邬江兴表示，AI技术带来了前所未有的安全挑战，但AI也可以赋能网络空间安全保障，为安全工作提供新工具。这也意味着，可以用AI技术对抗和化解AI带来的风险。

知乎创始人周源表示，目前已经可以运用AI技术识别和拦截AI侵权内容，该方法已经在知乎平台上得到了实践和应用。

“随着生成式人工智能的普及，信息泛滥和内容真实性问题日益突出，AI生成内容与消费者真实反馈之间的界限也变得逐渐模糊。”北京值得买科技股份有限公司首席技术官王云峰在接受中国经济时报记者采访时表示：“我们的策略是用‘AI’打败‘AI’。通过AIUC技术，不仅能够从大量数据中提取出真实的用户感受，还可以确保信息的准确性和价值。”

来源：中国经济时报