摘要：2025年全国两会期间，人工智能技术的滥用问题成为舆论焦点。全国人大代表雷军与全国政协委员靳东不约而同地以“受害者”身份发声，呼吁加强“AI换脸拟声”治理，相关话题屡次冲上热搜榜首。（3月11日央广网）

□ 孔德淇

2025年全国两会期间，人工智能技术的滥用问题成为舆论焦点。全国人大代表雷军与全国政协委员靳东不约而同地以“受害者”身份发声，呼吁加强“AI换脸拟声”治理，相关话题屡次冲上热搜榜首。（3月11日央广网）

雷军与靳东的遭遇，正是AI技术滥用乱象的缩影。去年国庆期间，大量“雷军AI配音”恶搞视频充斥网络，部分内容包含恶意谩骂，播放量超1.2亿次，迫使雷军亲自下场澄清。而靳东则因诈骗团伙利用“AI换脸拟声”伪造其形象骗取老年粉丝钱财，直言“性质非常恶劣”。

这类事件的危害，远不止个人权益受损这么简单。当技术可以轻而易举地伪造名人形象、模仿声音，甚至捏造虚假事件时，人们长期以来“眼见为实”的认知逻辑被彻底颠覆。从“假张文宏直播带货”到“假古天乐代言游戏”，AI生成的虚假内容正凭借低成本、高迷惑性的特点，不断冲击着公众的判断力。更为严峻的是，这种信任危机已悄然蔓延至社会基础领域，金融诈骗、政治谣言、司法证据篡改等风险在暗处涌动，给社会稳定与安全带来了巨大威胁。

为规范人工智能技术的应用，我国此前已出台《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法规，但随着AI技术的迅猛发展，现有治理框架逐渐显露出力不从心的一面，针对“AI换脸拟声”的专项立法尚属空白，这使得在应对此类问题时，常常陷入无法可依、执法困难的困境。

在此背景下，雷军呼吁加快人工智能单行法立法，明确“换脸拟声”应用边界，完善侵权证据规则，并加大刑事处罚力度；靳东也建议建立更好的规则，呼唤“以人为本”的技术伦理。这些主张不仅是他们个人的诉求，更是社会各界的共同心声，为解决AI技术滥用问题指明了方向。

在这场AI技术治理行动中，平台肩负着技术防御与内容审核的双重责任。一方面，应强制要求对AI生成内容添加显著标识，让用户能够轻易辨别内容的真实性，并开发深度合成检测工具，从技术层面遏制虚假内容的传播；另一方面，需优化投诉举报与应急处理机制，改变以往“事后灭火”的被动模式，做到及时发现、及时处理。此外，可以探索建立涵盖平台、开发者、用户等主体的全员责任链，从各个环节入手，限制AI技术滥用的可能，形成全方位、多层次的治理体系。

技术治理是一个复杂的系统工程，不能仅依赖法律与监管，还需培育公众的批判性思维。雷军建议在中小学教材中加入AI伦理内容，培养青少年正确的价值观和对技术的认知；在老年群体中普及防诈知识，提高其防范意识和辨别能力。这一思路极具现实意义，当AI造假成本低于辟谣成本时，提升个体鉴别力便成为抵御风险的第一道防线。

技术本身并无善恶，关键在于人类如何运用。AI时代，“智能向善”应成为社会共识。当立法、技术与教育形成合力，我们方能在虚实交织的世界中，坚守人性准则，确保人工智能更好地服务人类、造福社会。

本文来自【新甘肃】，仅代表作者观点。全国党媒信息公共平台提供信息发布传播服务。

ID：jrtt

来源：全国党媒信息公共平台