摘要：纽约大学近期公布的一项研究，揭示了大型语言模型（LLM）在接收医学领域训练数据时面临的潜在风险。研究显示，即便训练数据中仅混入极少量（0.001%）的错误信息，也可能导致LLM输出不准确的医学答案，这一发现引起了广泛关注。

纽约大学近期公布的一项研究，揭示了大型语言模型（LLM）在接收医学领域训练数据时面临的潜在风险。研究显示，即便训练数据中仅混入极少量（0.001%）的错误信息，也可能导致LLM输出不准确的医学答案，这一发现引起了广泛关注。

研究团队还深入探究了错误信息的最低影响阈值。以疫苗错误信息为例，当错误信息仅占训练数据的0.01%时，模型生成的答案中超过10%包含错误信息；即便错误信息比例降至0.001%，仍有超过7%的答案是有害的。研究指出，对于拥有700亿参数的LLaMA 2模型，进行类似的攻击仅需生成4万篇文章（成本不到100美元）。这些“文章”可以是普通的网页，错误信息可以隐藏在网页的不可见区域，或者通过隐藏文本（如黑色背景上的黑色文字）来实现。

研究同时指出，现有的错误信息问题同样严峻。许多非专业人士倾向于从通用的LLM中获取医学信息，而这些模型往往基于整个互联网进行训练，其中包含大量未经核实的错误信息。为了应对这一问题，研究人员设计了一种算法，能够识别LLM输出中的医学术语，并与经过验证的生物医学知识图谱进行比对，从而标记出无法验证的短语。尽管这种方法未能捕捉到所有医学错误信息，但成功标记了其中的大部分。

然而，即便是最优质的医学数据库（如PubMed）也未能幸免于错误信息的问题。医学研究文献中充斥着未能验证的理论和已被淘汰的治疗方法。研究进一步表明，即便依赖最优质的医学数据库进行训练，也无法确保LLM完全免受错误信息的影响。医学领域的复杂性和多样性使得构建一个始终可靠的医学LLM变得异常艰难。

研究还强调了错误信息在LLM训练中的隐蔽性和持久性。一旦错误信息被模型学习并固化，就很难通过后续的更新或修正来完全消除。这要求我们在构建和训练LLM时，必须更加谨慎地选择和审核训练数据，以确保模型的准确性和可靠性。

总之，纽约大学的这项研究为我们敲响了警钟，提醒我们在利用LLM进行医学信息传播和决策支持时，必须保持高度的警惕和审慎。

来源：ITBear科技资讯