摘要：比如，部分AI平台未经允许，擅自使用他人的音视频、图片等进行训练、配音；还有一些用户利用AI剪辑影视剧视频，或模仿他人设计图片等进行“商业化原创”，造成侵权……

人工智能（AI）技术飞速发展给人们生活带来了便利，但AI造谣、AI侵权、AI诈骗等乱象也给人们造成诸多困扰。

前不久，中央网信办印发通知，在全国范围内部署开展为期3个月的“清朗·整治AI技术滥用”专项行动。

AI技术不断更新，刷新了社会对未来的想象。然而，当技术被滥用，成为侵犯他人权益、误导公众的工具时，其负面影响便不容忽视。

▲当心陷阱。王鹏 作/新华社

随着DeepSeek等AI应用的爆火出圈，各行各业都迫不及待探索人工智能在各自领域的应用，期待通过AI提升效率、创造新价值。

工业和信息化部数据显示，截至2024年10月，我国完成备案并上线为公众提供服务的生成式人工智能服务大模型近200个，注册用户超过6亿。

AI已经影响着人们生活的方方面面，不过，技术作为一把“双刃剑”，其另一面也逐渐显现。

对版权的侵犯。随着AI技术的广泛应用，AI声音、AI图像、AI视频都开始涌现，相关侵权纠纷案件数量也逐渐增多。

比如，部分AI平台未经允许，擅自使用他人的音视频、图片等进行训练、配音；还有一些用户利用AI剪辑影视剧视频，或模仿他人设计图片等进行“商业化原创”，造成侵权……

对黑灰产的“助攻”。AI“换脸”、AI合成虚假视频……一系列技术滥用问题，不仅严重侵犯他人肖像权、名誉权、著作权，还滋生了部分黑灰产业的发展。

部分不法分子利用越来越逼真的AI生成技术仿冒他人、实施诈骗；有人利用AI技术，将无辜人士、名人甚至未成年人的照片制作成裸照、色情视频，打包售卖；在一些购物平台，部分商家利用AI合成虚假图片、视频，对商品进行虚假宣传。

对网络内容的污染。当前，AI生成、伪造内容的现象越来越普遍，大量粗制滥造、真假难辨的“信息垃圾”，引发了关于“AI污染”的讨论。

在某些热门社交平台，充斥着大量AI生成的虚假账号；某小说平台的账号，依靠AI“创作”，月更新字数上千万字，但行文常常逻辑不通、辞藻空洞……大量AI生产的低质、虚假内容，极易引发公众认知困惑和阅读不适感，扭曲大众对现实和科学的集体理解，最终让人被AI“牵着走”。

对技术伦理的挑战。人工智能带来的风险还引发了关于人文情感、社会伦理、公序良俗的价值拷问。

比如，有网友利用AI生成视频和声音“复活”李玟、乔任梁等诸多已逝明星，引发争议。支持“复活”的人，认为这种隔空互动可以寄托对逝者的情感慰藉，反对者则坚决指出，这种行为是对逝者及其家属的二次伤害。

另外，一些社交软件开始利用AI生成虚拟伴侣或朋友。不可否认，这种方式能够为用户提供情感陪伴，但随着个体的频繁使用，部分人可能会将大量的时间和精力投入到与虚拟角色的交流中，从而忽视了现实生活中的人际关系。

▲作业“AI味儿”变浓。朱慧卿 作/新华社

当前，人工智能的研发和应用正在以前所未有的速度增长，同时也给AI治理带来了巨大的挑战。

识别难，以假乱真挑战人的传统认知习惯。过去“眼见为实”是人们判断事情真伪的重要依据，但随着技术的演变，AI带给人的迷惑性越来越强。如今，国内AI平台的文生视频、图生视频、对口型配音的画面表现力和真实度，在某些场景下，足以“以假乱真”。

AI技术颠覆了“有图有真相”的常规认知，但并非所有人都有识别“AI造”的火眼金睛，特别是许多老年人，他们很容易被AI信息欺骗。

低门槛，很多人都可以轻松利用AI弄虚作假。AI技术的发展，让内容创作门槛断崖式下降，轻点几下鼠标，输入简单提示词，就能生成以假乱真的图文和视频。其便捷性在一些别有用心之人手中，也沦为了制造虚假信息、扰乱社会秩序的帮凶。

今年2月，一条疑似AI炮制的假新闻——“截至2024年末，80后死亡率突破5.2%，相当于每20个80后中就有1人已经去世”，就在社交媒体上广泛传播。

治理成本高，很难短时间内杜绝AI技术滥用。人工智能的技术滥用或误用成本相当低，但要去防范这种风险非常困难，所需的成本要远远高得多。

一方面，AI 技术本身处于快速发展和迭代之中，其生成的内容越来越逼真，让人难以辨别。防范 AI 滥用需要投入大量的人力、物力和财力进行技术识别。

另一方面，面对快速发展的AI技术，法律和监管往往具有一定滞后性。比如随着大量AI作品进入公有领域，现有的知识产权保护制度，难以真正保护原创者的权益。

正是由于AI治理面临着重重困境，而利用AI技术却极有可能换来高额的利润回报，让部分人选择铤而走险。

▲在博鳌亚洲论坛2025年年会中，人工智能技术成为焦点议题之一。/重庆瞭望截图

当下，人工智能掀起的浪潮有望成为引领第四轮科技革命的重要力量。AI的发展势不可挡，如何去迎接一个美好安全的人工智能时代，值得深思。

与时俱进，法律要平衡好人的权益与技术创新。面对科技进步，不发展就是最大的不安全。因此，未来既要加强对AI有违伦理法规方面的治理，但又不能因这种治理而阻碍技术进步。

一方面要通过强有力的监管机制保障公共利益。比如，技术最终还是要依靠人的掌握，从AI平台的研发到AI终端的使用，必须建立起追责到人、责任分担的制度，依靠制度来引导和规范人对科技的应用。另一方面也要保持足够的灵活性，以激发创新并允许行业进行必要的实验和探索。

数字时代，科技企业应当承担时代责任。面对AI技术滥用，网友需要擦亮眼睛、提高警惕，但更重要的要在生产端和渠道端发力设防、前置过滤。

比如，模型训练者应建立明确的内容筛选标准，对涉及政治、历史、国家安全、生命健康等重要领域的语料需设定更高的可信度门槛，避免后续造成严重的不良后果。

对于社交平台而言，则要加强对AI生成内容的筛查监管。比如，给AI生成合成内容添加标识，是从源头上治理AI造假的有效手段。国家互联网信息办公室等四部门联合发布《人工智能生成合成内容标识办法》，要求服务提供者提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识，该办法将于今年9月1日起正式施行。

另外，全社会都要加强对人工智能安全的投入。当下，AI发展仍处于起步阶段，我们对AI的大面积应用才刚刚开始，在肉眼可见的未来，人工智能技术将会更广泛、更深入地渗透进我们的生活。从智能家居到智能交通，从医疗诊断到金融风控，未来AI的身影或许将无处不在，全社会还需持续加强对人工智能安全的投入。

比如，相关部门应加大对AI安全研究的资金支持，鼓励科研机构和企业开展研究，推动技术创新，积极打造“以AI治理AI、以算法规制算法”的智能监管科技体系；相关行业应建立起AI伦理规范，将“以人为本”的价值观嵌入人工智能技术应用的方方面面，引导AI向善；另外，学校也应加强AI安全通识教育，让学生了解AI技术可能带来的风险，学会正确使用和保护个人信息。

人工智能始终是服务于人类而存在的，技术发展的善与恶，都取决于使用技术的人。只要坚守文明的度量衡，始终高扬人性的价值，我们就能跟随AI浪潮，迎接一个更加高效美好的数字社会。

来源：重庆瞭望