摘要：在人工智能飞速发展的当下，大语言模型已成为科技领域的焦点。其中，DeepSeek 凭借其出色的语言表达和逻辑推演能力，迅速在市场中崭露头角，吸引了大量用户。然而，近日 DeepSeek 却陷入了一场严重的 “幻觉” 争议，被指在回答用户问题时虚构内容、混淆概念
在人工智能飞速发展的当下，大语言模型已成为科技领域的焦点。其中，DeepSeek 凭借其出色的语言表达和逻辑推演能力，迅速在市场中崭露头角，吸引了大量用户。然而，近日 DeepSeek 却陷入了一场严重的 “幻觉” 争议，被指在回答用户问题时虚构内容、混淆概念，其潜在危害被认为比 ChatGPT 更为严重，甚至可能对中文互联网生态造成毁灭性打击。
DeepSeek 自推出以来，以其强大的语言处理能力和广泛的知识覆盖，在大语言模型市场中占据了一席之地。许多用户最初被其流畅的语言生成和看似专业的回答所吸引，无论是日常问题咨询，还是专业领域的探讨，DeepSeek 都能给出条理清晰的回应。但随着用户使用的深入，问题逐渐浮出水面。越来越多的用户发现，DeepSeek 在某些情况下会给出与事实严重不符的答案，而且这些错误答案往往被包装得极为专业，具有很强的迷惑性。
西安城墙 - 安定门的通行路线问题，成为了 DeepSeek “幻觉” 问题的典型案例。一位用户在群里讨论城市规划时，对从 A 点到 B 点需绕行安定门的奇怪路线提出疑问。正常情况下，几十米的距离却需绕行一公里以上，且路口车流量大，通行效率极低。带着这个疑惑，用户向 DeepSeek 寻求答案。
DeepSeek 给出的解释乍一听十分合理：为保护文物，需控制车速，强制绕行可完美控制车流速度梯度。还提及《西安历史文化名城保护规划（2020 - 2035）》中的 “静默区” 概念，甚至列出精确数据，如距离增加、振动传递深度变化等。从表面看，这是一个基于专业知识和严谨逻辑的回答，让不少人信以为真。
但用户秉持着求真的态度，花费 3 元购买了《西安历史文化名城保护规划（2020 - 2035）》文件，结果发现文件中根本没有所谓的 “静默区” 说法，关于安定门也只是简单提及。当用户质问 DeepSeek 时，它虽承认错误，却又开始编造新的解释，如混淆专业术语概念、搞错文件章节名等，还给出一些并不存在的文件和标准。
进一步查证发现，DeepSeek 开头提到的用于佐证的文物，如 “隋唐皇城西南角遗址（夯土台基）” 和 “唐末五代里坊排水系统”，实际分别位于洛阳和成都，与西安毫无关系。这一系列的错误和编造，让用户对 DeepSeek 的信任瞬间崩塌。
不同于早期 AI 模型简单的常识性错误，DeepSeek 的 “幻觉” 具有鲜明的 “高阶” 特征：
学术化包装：伪造专业文件编号，如 “市规〔2020〕12 号”；虚构技术标准，像 “GB/T 5845 - 2019《古城交通振动控制规范》”，使错误内容披上专业的外衣。逻辑闭环设计：通过构建 “文物保护优先 - 振动控制需求 - 交通组织优化” 的三段论伪因果链，让错误答案在逻辑上看似合理，形成一个闭环，增加了用户识别错误的难度。跨学科缝合：将土木工程的振动理论、城市规划的流量模型、文物保护的技术规范等不同学科知识进行拼凑，以看似专业的知识组合来支撑其错误观点。各方反应与担忧这一事件引发了各方的广泛关注和担忧。技术专家们指出，DeepSeek 的 “幻觉” 问题不仅暴露了其技术缺陷，更反映出当前大语言模型发展中普遍存在的隐患。AI 模型的训练数据和算法优化仍存在诸多挑战，如何确保模型输出的准确性和可靠性，是亟待解决的问题。
内容创作者和自媒体行业也对此表示担忧。如果用户将 DeepSeek 生成的虚构内容整理成文章发布到自媒体平台，这些错误信息可能会在网络上迅速传播，误导更多人。而普通用户往往缺乏验证信息真实性的能力和精力，这将导致错误知识在中文互联网上扩散。
互联网平台和搜索引擎也面临新的挑战。当 AI 生成的 “伪知识” 通过搜索引擎优化占据搜索前列，真实信息却被淹没时，用户获取准确知识的难度将大大增加。这不仅影响用户体验，还可能破坏整个互联网的信息生态平衡。
传统的知识传播链条，从专业论文到科普文章，再到网络内容，有着严谨的层级和验证机制。但如今，AI 生成的 “伪知识” 绕过了专业验证环节，通过 SEO 优化直接出现在搜索结果的前列。以西安规划局的真实文件和 DeepSeek 虚构的 “市规〔2020〕12 号文” 为例，真实文件在搜索引擎中难寻踪迹，而虚构文件却衍生出众多相关网页，导致用户在获取信息时极易被误导
在信息传播的过程中，验证机制的有效性至关重要。然而，如今验证 AI 答案的成本过高。用户为了验证 DeepSeek 关于西安安定门问题的回答，花费 3 元购买正规文件，这看似不多的费用，却成为了许多人验证信息的阻碍。当专业文档需要付费获取，而 AI 幻觉可以免费传播时，真相的传播成本远远高于谎言，这使得错误信息更容易在网络上蔓延。
中文互联网正面临前所未有的认知免疫危机。传统谣言往往存在明显的逻辑断点，容易被识破。但 AI 生成的 “高阶幻觉” 却建立了完整的抗辩体系，当用户指出错误时，系统可以迅速给出看似合理的解释，如将隋唐皇城遗址在洛阳的错误归因为 “不同历史时期的都城建制差异”。这种自我强化的网络效应使得错误信息不断循环传播，进一步污染 AI 的训练数据，导致新一代模型可能产生更 “可信” 的幻觉。
DeepSeek 的 “幻觉” 争议给整个 AI 行业敲响了警钟。一方面，AI 研发团队需要加强技术研发，优化训练数据和算法，提高模型的准确性和可靠性，从源头上减少 “幻觉” 的产生。另一方面，互联网平台和搜索引擎应加强内容审核和排名算法的优化，避免 “伪知识” 占据搜索优势。同时，用户也需要提高自身的信息辨别能力，不盲目相信 AI 生成的内容，遇到疑问及时查证。
此外，建立健全 AI 内容的监管机制也迫在眉睫。相关部门应制定相应的法律法规，规范 AI 内容的生成和传播，对于故意传播虚假信息的行为进行严厉打击。只有通过多方共同努力，才能有效应对 AI “幻觉” 带来的挑战，维护中文互联网的健康生态。
DeepSeek 的 “幻觉” 争议不仅是该模型自身的问题，更是整个中文互联网生态面临的一次严峻考验。如何在享受 AI 带来的便利的同时，避免被其误导，将是未来很长一段时间内需要持续关注和解决的问题。这场争议也为 AI 技术的发展和互联网信息治理提供了宝贵的经验教训，促使各方共同探索更加完善的解决方案。
来源：人工智能学家
