摘要：在当今数字化时代，人工智能（AI）技术以惊人的速度渗透到生活的各个角落，为人们带来前所未有的便利与创新体验。从智能语音助手到图像识别技术，AI 的积极作用毋庸置疑。然而，在其蓬勃发展的背后，AI 滥用现象也日益凸显，带来了一系列不容忽视的危害。
在当今数字化时代，人工智能（AI）技术以惊人的速度渗透到生活的各个角落，为人们带来前所未有的便利与创新体验。从智能语音助手到图像识别技术，AI 的积极作用毋庸置疑。然而，在其蓬勃发展的背后，AI 滥用现象也日益凸显，带来了一系列不容忽视的危害。
AI 生成、伪造或篡改文本、图片、音频和视频的情况愈发普遍。有 MCN 机构利用人工智能程序日产上千篇虚假新闻，致使大量不实信息在网络中如病毒般迅速传播；部分小说平台账号借助 AI “创作”，每日更新十几本电子书，但其内容逻辑混乱、辞藻空洞；甚至出现医学论文因使用 AI 生成的虚假配图而被撤稿的事件。清华大学新闻与传播学院新媒体研究中心今年 4 月发布的研究报告显示，近一年来，经济与企业类 AI 谣言量增速达 99.91％。
天眼查专业版数据显示，截至目前我国现存在业、存续状态的人工智能相关企业超424.3万家。其中，2025年截至目前新增注册相关企业约28.6万余家，从企业注册数量趋势来看，近五年间，人工智能相关企业的注册数量呈现出逐年增长的态势，并在2024年达到顶峰。
从区域分布来看，广东省以超过63.6万余家的人工智能相关企业数量位居首位，占全国企业总数的15%；排在其后的是江苏省、北京市、山东省和浙江省，相关企业数量分别是超过33.6万余家、33.1万余家、29.2万余家和25.2万余家。
此外，通过天眼查天眼风险和深度风险来看，涉及司法案件的人工智能相关企业约占总数的2.22%。
AI 声音滥用现象同样猖獗。随着人工智能技术和语音大模型应用的发展，AI 合成声音 App 大量涌现。部分人未经他人授权，便将他人声音用 AI 技术 “克隆”，用于带货、诈骗、恶搞等。例如，“张文宏医生” 推销蛋白棒的虚假视频被本人辟谣，多位配音演员公开维权称声音被 AI “偷走”，更有不法分子通过 “AI 换声” 实施诈骗，严重侵害个人信息安全，扰乱网络空间生态和秩序。
AI 滥用带来的危害是多方面的。在社会层面：
引发社会恐慌：虚假信息可能会夸大某些事件的危害程度或传播不实的危险信息，导致公众产生不必要的恐慌情绪。例如，在疫情期间，一些关于病毒传播速度、毒性等方面的虚假信息广泛传播，引发了民众的抢购潮和过度担忧，影响了正常的社会秩序。
破坏社会信任：虚假信息的传播会使公众对信息来源、媒体机构以及政府等产生信任危机。当人们频繁接收到虚假信息并发现被误导后，就会对各种渠道传播的信息持怀疑态度，进而影响社会信任体系的建立和维持，不利于社会的稳定和谐发展。
误导公众认知：大量虚假信息会干扰公众对真实事件的了解和判断，形成错误的认知和观念。长期接触虚假信息可能导致公众对一些重要问题的看法产生偏差，影响社会舆论导向，阻碍社会的进步和发展。例如，虚假的科学信息可能误导公众对一些科学技术的认知，阻碍科学知识的普及和应用。
加剧社会分裂：虚假信息往往会被别有用心的人利用，制造社会矛盾和对立。不同群体可能会因为虚假信息而产生分歧和冲突，加剧社会的分裂和不稳定。例如，传播关于不同种族、宗教、地区等方面的虚假信息，可能引发群体间的仇恨和歧视，破坏社会的团结和和谐。
经济层面：
扰乱市场秩序：在经济领域，虚假信息可能会对市场产生误导，影响市场的正常运行。例如，虚假的企业财务信息、产品质量信息或市场趋势预测等，可能导致投资者做出错误的决策，引发市场波动，甚至造成经济损失。一些虚假的广告宣传也会误导消费者，扰乱市场的公平竞争环境。
造成经济损失：虚假信息传播可能直接或间接导致经济损失。对于企业来说，可能会因为虚假的负面信息而声誉受损，销售额下降；对于个人来说，可能会因为相信虚假的投资信息而遭受财产损失。例如，一些非法集资案件中，犯罪分子通过传播虚假的投资项目信息，骗取大量投资者的资金，给社会经济带来严重危害。
个人层面：
影响个人决策：虚假信息会干扰个人对事物的判断和决策，导致个人做出错误的选择。例如，在求职、购房、医疗等重要领域，虚假信息可能使个人错过更好的机会，或者陷入不必要的风险和困境。
损害个人声誉：如果虚假信息涉及到个人的名誉、隐私等方面，可能会对个人造成严重的伤害。不实的谣言和虚假信息可能会破坏个人的声誉和形象，影响其人际关系和社会地位，给个人带来心理压力和精神困扰。
面对 AI 滥用乱象，各方已积极行动。2025 年，中央网信办将整治 AI 技术滥用乱象列为 “清朗” 系列专项行动的重点任务之一，突出 AI 技术管理和信息内容管理，强化生成合成内容标识，打击借 AI 技术生成发布虚假信息、实施网络水军行为等问题。
此前，我国已出台《人工智能生成合成内容标识办法 (征求意见稿)》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等，为 AI 技术使用划定红线。2024 年 4 月，北京互联网法院宣判全国首例 “AI 声音侵权案”，明确在具备可识别性的前提下，自然人声音权益的保护范围可涵盖 AI 生成声音。同年 12 月，广电总局网络视听司发布《管理提示 (AI 魔改)》，要求严格落实生成式人工智能内容审核要求。
AI 技术是一把双刃剑，在享受其带来的便捷与创新时，必须高度警惕滥用现象。只有通过完善法律法规、强化平台监管、提升公众意识等多方面举措，才能有效遏制 AI 滥用，让 AI 技术在健康、有序的轨道上为人类社会创造更大价值。
来源：如意商业
