摘要：近年来，随着以ChatGPT为代表的大语言模型（LLM, Large Language Model）在全球范围的广泛应用，人工智能技术正逐步渗透至人类日常生活与生产的各个层面。在中国，本土研发的中文大语言模型，如DeepSeek、豆包、通义千问和文心一言等，正
近年来，随着以ChatGPT为代表的大语言模型（LLM, Large Language Model）在全球范围的广泛应用，人工智能技术正逐步渗透至人类日常生活与生产的各个层面。在中国，本土研发的中文大语言模型，如DeepSeek、豆包、通义千问和文心一言等，正在迅速迭代并逐步取代传统搜索引擎的部分功能，成为用户获取信息、辅助决策的重要工具。然而，伴随其广泛落地的同时，相关模型的“幻觉率”（hallucination rate）也在不断上升，严重影响其作为生产力工具的可靠性。本文拟从信息生态、产业逻辑与认知机制等多个维度探讨这一现象背后的系统性根源。
一、中文大模型的功能异化：从创作工具到营销机器
大语言模型原本旨在通过自然语言处理能力，为用户提供准确、高效的信息支持。然而，当前中文语境下的模型产品，正在经历从“生产力工具”向“娱乐、营销甚至诈骗工具”的异化。与英文语境下的ChatGPT持续专注于通识与严肃知识的系统化输出相比，DeepSeek等中文模型越来越多地被用于生成娱乐化、商业化甚至误导性内容，导致其在处理复杂任务或提供高价值信息时的可信度显著下降。
二、AI幻觉的根源：中文信息生态的结构性失效
AI之所以容易产生“幻觉”，其深层原因在于训练与生成过程依赖于输入语料的真实性与多样性。在中文互联网上，由于历史、政策与产业多重因素交织，信息的公信力呈现结构性弱化。
一方面，内容审核机制和言论环境对信息的过滤与选择性展示，使语义空间中的“对称性”遭到破坏，大量缺乏交叉验证的主观陈述或商业推广充斥其中；另一方面，平台运营策略激励内容生产者以“算法推荐”为导向创作内容，进一步加剧了虚假与片面信息的泛滥。在此背景下，大模型难以通过传统的概率统计和共现频率判断“真实”与“错误”的边界，从而产生认知误判。
三、“信息投喂”产业链：技术污染的经济诱因
更值得警惕的是，国内已出现系统性针对大模型的信息操控行为，即“AI信息投喂”灰产链的产业化趋势。以某些汽车、消费电子等行业为例，企业与门户平台通过批量生成SEO优化内容，在特定关键词下大量布设“优化叙事”，借助AI的搜索和归纳机制，操控其生成结果。
举例而言，在用户向模型询问“某品牌与竞品谁的性价比更高”时，由于模型从互联网上获取的信息已被大量倾斜内容“污染”，极易得出偏颇甚至失实的判断。这种内容投喂不仅影响普通消费者的决策，更使模型在知识建构过程中的信任基础遭到侵蚀。
某门户网站以接单形式展开内容布设，通过生成“某界M8远优于某想L8”之类的对比文案，每日高强度输出数以万计的伪评测内容。这些内容一旦被大模型索引并吸收，便构成了系统性幻觉的源头。更有甚者，某信息服务公司将“AI信息投喂”作为主营业务，月收费高达一万八，仅3月份签约客户即超过百家，营收突破200万。
四、认知回环与幻觉扩散：AI“自我污染”的循环困境
AI幻觉的危害不仅止于误导用户，更体现在其不断自我加强的反馈机制。在长尾内容领域，如健康养生、娱乐八卦、历史科普等，大量内容创作者本身依赖AI生成初始稿件，经过人为润色再行发布。这类“伪原创”内容再度被大模型采集，进入其训练语料中，形成循环喂养机制。
在该机制下，模型所生成的内容不断强化已被“污染”的叙事范式，原本有限的幻觉率（如10%-20%）可能迅速扩大。这不仅威胁模型在专业场景中的实用性，更将加剧中文信息空间的失序程度，最终形成认知与事实层面上的双重断裂。
五、制度性与文化性的深层映射
从更宏观的视角看，国产大模型面临的困境，也是中国数字社会整体运作逻辑的一个缩影。在强调流量变现、资源极化的语境中，极致的利己主义和机会主义行为被激励甚至制度化，而内容环境的真实、可信与长期价值被系统性忽略。
当越来越多的企业或个体将“操控模型输出”视为商业策略的一部分，当伪信息不再是副产品而是工具，当模型面对的是“信息汪洋中的高度拟态结构”，其产生幻觉就不再是技术问题，而是系统性选择。
更令人深思的是，许多“幻觉制造者”并非恶意攻击者，而是普通的信息产业从业者。在极度内卷、效率至上的生态中，他们往往以极强的执行力和创造力将信息投喂做到极致。在某种意义上，这是“勤劳勇敢”的另一种表现，只不过其结果是对AI系统性的反噬。
六、结语：技术治理与价值共识的双重呼唤
总而言之，国产大语言模型的发展面临的“幻觉危机”不仅是一个工程挑战，更是一个治理命题。其成因复杂，既有平台生态的系统性失衡，也有信息操控的经济驱动，更反映出社会在面对新技术时，缺乏统一的价值共识与使用规范。
当人们问“AI会不会毁灭人类”时，我们或许更应反思：我们是否正在以自己的方式“毁灭AI”。
解决之道，不仅在于提升模型的防污染机制和真实信息的获取能力，更应从制度层面保障信息空间的健康运行，从文化层面重建对知识、真理与长期价值的尊重。
AI的未来，不只是算力和算法的较量，更是社会整体认知能力与信息文明的深度博弈。
作者简介：张迪，北京知玄文化传播有限公司创始合伙人/国内首个基于品牌传播的AI大语言模型工具-F.E.E.D™奠基人之一/超过20年营销及传播经验.曾供职于Reuters、GettyImages等新闻机构，为多内外多家知名企业提供品牌营销及传播等相关咨询服务/政经杂志《J Magazine》创刊人兼主笔，著有《一盘没有下完的棋 – 马斯克买Twitter》一书.
来源：新浪财经