摘要：2025年5月，耶鲁大学的Gabrielle Kaili-May Liu和Arman Cohan，谷歌研究院的Gal Yona、Avi Caciularu和Idan Szpektor，以及纽约大学的Tim G. J. Rudner联合发表了一篇重要研究论文，题

一、为什么大语言模型需要诚实地表达自己的不确定性？

想象一下，你正在使用ChatGPT帮你回答一个医疗问题。如果它对答案不确定，却用非常肯定的语气告诉你"这绝对是胃溃疡的症状"，而实际上它内心并不确定，这种情况会怎样？这可能导致你盲目信任AI的建议而延误就医，造成严重后果。

这正是研究团队关注的核心问题：大语言模型在不确定时，常常不会诚实地表达这种不确定性，而是使用肯定的语言做出可能不准确的陈述。这种"表里不一"的问题在AI安全和可信度方面构成了严重挑战。

研究者们将这种能力称为"忠实的信心校准"（faithful calibration）—— 模型应该能够通过语言表达，准确反映其内在的不确定性水平。比如，当模型对某个事实非常确定时，它可以用肯定的语气说"巴黎是法国的首都"；而当它不太确定时，应该使用更谨慎的表达，如"我认为爱因斯坦在1955年去世，但我不完全确定"。

研究团队发现，虽然已有许多研究关注模型的准确性校准（即模型的信心与其准确率之间的关系），但很少有研究专注于模型表达不确定性的忠实度。这就像是一个人可能知道自己何时不确定（内在认知），但在表达时却不愿意承认不确定（外在表达）。

二、研究团队如何系统地研究这个问题？

研究团队进行了有史以来最全面的大语言模型不确定性表达研究，覆盖了16种不同的模型、10个不同的数据集、6个内容领域和5种不确定性引导提示。就像一位医生会对不同年龄、不同背景的病人进行全面检查一样，研究者对各种模型在各种情况下的表现进行了详细分析。

他们研究的模型包括谷歌的Gemini、OpenAI的GPT系列、Qwen、Llama、OLMo和Tulu等多种流行模型，横跨商业封闭模型和开源模型两大阵营。测试的任务涵盖了知识问答、数学推理、科学知识、常识推理等多个领域。

在评估模型的"忠实度"时，研究者使用了一个叫做"忠实响应不确定性"的指标。想象你观察一个人说话时的肢体语言和语气，来判断他对自己所说内容的确信程度——研究者也用类似的方法分析模型的输出。具体来说，他们比较了模型语言表达的确定性程度（通过语言的坚决程度来测量）与其内在信心水平（通过多次采样响应的一致性来衡量）之间的匹配程度。

三、研究发现：大语言模型在表达不确定性时普遍"言不由衷"

研究结果令人担忧：几乎所有测试的模型在表达不确定性方面都表现不佳。就像一个经常不敢承认自己不知道答案的学生，大多数模型即使在内心不确定的情况下，也倾向于使用肯定的语言做出陈述。

具体来说，当不使用特殊的不确定性引导提示时，所有模型的忠实度分数都接近或低于0.5（满分为1），这意味着模型的语言表达与其内在不确定性几乎没有关联，甚至可能是负相关的。

更令人惊讶的是，即使使用简单的不确定性引导提示（如"如果你不确定，请用语言表达这种不确定性"），改善也非常有限。研究发现，模型在被明确指示要表达不确定性的情况下，仍然很难准确地将其内在不确定性程度转化为适当的语言表达。

研究还发现，模型大小、模型类型和后训练方法对忠实校准能力有一定影响，但这种影响相对较弱。例如，虽然专有模型（如Gemini和GPT）往往比开源模型表现更好，但大型开源模型（如Qwen2.5-72B）在某些任务上的表现可以与专有模型相媲美。

四、现有方法无法解决问题，甚至可能适得其反

研究团队还测试了市面上最先进的校准方法，看它们是否能改善模型的忠实校准能力。令人意外的是，他们发现现有的校准方法不仅无法解决问题，有时甚至会使情况变得更糟。

这些测试的方法包括温度缩放（Temperature Scaling）、事实与反思法（Fact-and-Reflection，简称FaR）和关注度转移法（Shifting Attention to Relevance，简称SAR）。这就像是原本用来帮助学生准确估计自己知识水平的辅导方法，却反而让学生更不愿意承认自己的无知。

研究还探索了12种高级提示策略是否能提高模型的忠实校准能力。这些策略包括使用少量示例、思维链（Chain-of-Thought）提示、分步指导等。虽然这些策略能带来一定改善，但效果仍然有限，而且很难在不同模型和任务之间泛化。

五、MetaFaith：一种激发模型元认知的创新方法

面对这些挑战，研究团队提出了一种名为"MetaFaith"的创新方法来提高模型的忠实校准能力。这种方法的灵感来自人类的元认知——我们对自己认知过程的认识和调控能力。

想象一下，当一个人意识到自己对某个问题不太确定时，他会自然地在表达中使用谨慎的语言，比如"我认为"、"可能"或"也许"等词语。MetaFaith正是试图在大语言模型中激发类似的元认知能力。

MetaFaith的工作原理可以比作是教练辅导运动员的过程。首先，研究团队设计了一个精心构建的"教练提示"（master prompt），指导一个生成器语言模型（如GPT-4o或Claude）产生校准提示。这些校准提示融入了三种元认知策略：

1. 元认知反思（M+Reflect）：鼓励模型在回答前反思自己对问题的确信程度，就像人类在发表意见前会先在心里评估自己的知识水平一样。

2. 元认知敏感性（MetSens）：将模型描述为具有高度元认知敏感性的代理，能够准确检测自己的内在信心水平，并能忠实地表达这种信心状态。

3. 元认知敏感性+示例对冲语言（MetSens+Hedge）：除了元认知敏感性外，还提供了一系列表达不确定性的词语及其对应的置信度，如"几乎确定"（置信度约0.92）、"很可能"（置信度约0.87）、"相当可能"（置信度约0.81）等。

这些生成的校准提示可以作为系统指令应用于任何遵循指令的大语言模型，无需任何模型训练或微调，就像是给模型提供了一副特殊的眼镜，让它能够更清晰地看到并表达自己的不确定性。

六、MetaFaith的惊人效果：大幅提升模型的诚实表达能力

研究团队在14种模型和10个数据集上测试了MetaFaith的效果，结果令人振奋。MetaFaith显著提高了所有测试模型的忠实校准能力，平均提升幅度高达61%，而且这种改善在不同模型和任务之间表现出了良好的泛化能力。

更重要的是，在人类评估中，使用MetaFaith生成的回答获得了83%的胜率，与仅使用基本不确定性提示的回答相比，人类认为MetaFaith产生的回答更可靠、更有帮助、更具信息性。

研究团队还进行了消融实验（ablation study），移除了MetaFaith中的元认知框架部分，结果发现忠实校准能力显著下降，证明了元认知策略在方法中的关键作用。这就像是验证了运动员需要心理辅导和技术训练相结合，才能在比赛中发挥最佳水平。

特别值得一提的是，MetaFaith在不影响模型性能的情况下提高了忠实校准能力。在所有测试中，模型的准确率基本保持不变，这意味着MetaFaith帮助模型更诚实地表达不确定性，而不会影响它们解决问题的能力。

七、这项研究对我们意味着什么？

这项研究的意义远超学术范畴。想象一下，如果我们日常使用的AI助手能够诚实地表达它们的不确定性，会带来哪些变化：

医疗咨询时，AI会清楚地表明哪些建议是基于确定的医学知识，哪些只是初步判断需要专业医生确认；教育场景中，AI辅导员会坦诚地告诉学生它对某些问题不太确定，避免传播错误知识；商业决策辅助时，AI分析师会明确标识其预测的确信程度，帮助管理者做出更明智的决策。

更广泛地说，这项研究为构建更可信、更透明的AI系统迈出了重要一步。当AI能够像人类一样诚实地表达不确定性时，用户就能更准确地判断何时应该信任AI的建议，何时应该寻求更多信息或专业意见。

最后，这项研究也为我们提供了深入理解大语言模型内部工作机制的新视角。元认知能力——意识到自己知道什么和不知道什么——一直被视为高级智能的标志。MetaFaith的成功表明，通过精心设计的提示，我们可以在某种程度上激发大语言模型的元认知能力，这对于未来AI系统的发展具有深远意义。

八、局限性与未来方向

尽管MetaFaith取得了显著成功，研究团队也坦诚地指出了一些局限性。首先，他们的研究主要基于英语文本，未来需要扩展到其他语言。不同文化和语言中表达不确定性的方式可能有很大差异，比如在某些文化中，直接表达不确定性可能被视为不专业或缺乏自信。

其次，研究主要集中在模型输出的不确定性表达上，未来可以结合机制解释方法（mechanistic interpretability）来深入探究模型内部激活如何影响不确定性表达。这就像是从观察人的外在行为转向研究大脑内部活动，以获取更深入的理解。

此外，研究团队也提到了提示优化和温度选择等因素对忠实校准的影响需要进一步研究。就像烹饪时调整火候和调料一样，找到最佳的提示参数组合可能会进一步提高模型的忠实校准能力。

九、结语：迈向更诚实的AI未来

归根结底，MetaFaith研究告诉我们一个简单而深刻的道理：AI系统需要学会"知之为知之，不知为不知"。在追求AI能力提升的同时，我们同样需要关注它们是否能诚实地表达自己的局限性。

这项研究不仅提供了一种实用的方法来提高大语言模型的忠实校准能力，也为我们思考AI伦理和安全问题提供了新的视角。当AI能够诚实地表达不确定性时，人类用户才能做出更明智的决策，AI系统才能真正成为我们可靠的助手而非误导者。

对于技术开发者来说，这项研究提供了一种简单而有效的方法，可以在不需要模型重训练的情况下，显著提高模型的可信度。对于AI用户来说，这提醒我们要关注AI系统如何表达不确定性，以及这种表达是否与其内在能力相符。

最后，这项研究也启发我们思考：在未来的AI发展中，我们不仅要追求更强大的能力，也要追求更高的诚实度和透明度。毕竟，一个诚实承认自己局限性的AI，比一个自信满满却经常犯错的AI更值得我们信任。

来源：至顶网一点号