柳叶刀 | 研究人员、编辑和出版机构，如何更好地使用生成式AI？

摘要：《柳叶刀》系列期刊的使命是发表最好的科学，创造更好的生活。我们通过各种行动来践行这一使命，例如发表前沿研究成果，并将其应用于健康倡导。这些行动大多依靠书面文字作为主要方式来评估、选择、优化和传播科学信息。从同行评审到评论文章，我们的工作无一不依赖文本。大语言模

《柳叶刀》系列期刊的使命是发表最好的科学，创造更好的生活。我们通过各种行动来践行这一使命，例如发表前沿研究成果，并将其应用于健康倡导。这些行动大多依靠书面文字作为主要方式来评估、选择、优化和传播科学信息。从同行评审到评论文章，我们的工作无一不依赖文本。大语言模型是一种生成式人工智能（Al），能够针对科学与医学中的任何主题生成听起来可靠的文字。因此，它的出现可能对科学出版和《柳叶刀》系列期刊产生巨大影响。生成式Al是一个快速发展的领域，需要持续不断的关注和适应。柳叶刀科研诚信小组（The Lancet Research Integrity Group）成立于2024年，旨在评估和制定科研诚信问题的相关政策，并一直在思考监控和塑造使用生成式Al的最佳方式。

目前还没有任何一种技术手段能可靠地识别研究论文中是否使用了生成式Al，因此出版机构只能依靠作者关于使用生成式Al的诚信声明。《柳叶刀》系列期刊的投稿页面新设了一个复选框，询问作者是否在其研究成果的任何部分中使用了生成式Al，如使用则具体描述使用情况。如果作者选择了“是”，编辑会在投稿系统（Editorial Manager）中收到提示，这样编辑可以确保生成式Al的使用情况得到了恰当的声明。《柳叶刀》系列期刊遵循国际医学期刊编辑委员会（International Committee of Medical Journal Editors）[1]关于使用和声明生成式Al的指导意见，详见“作者须知”（Information for Authors）[2]。但我们考虑的更多。现在，我们要求作者准确声明所使用的大语言模型的名称、版本、确切提示词、使用目的以及在文章手稿中的位置。而且，文章手稿的致谢部分要披露这部分信息。这是为了确保对编辑、审稿人和读者做到尽可能的透明。作者对其作品的原创性、准确性和完整性[1]负有最终责任，如果一个文章手稿中不当使用生成式AI，编辑可能会拒绝继续处理该稿件。

除原创研究外，《柳叶刀》系列期刊还包括“蓝色部分”（Blue Section）的内容，如评论（Comments）、观点（Perspectives）、通讯（Correspondence）、讣告（Obituaries）和全球报道（World Reports）。这些版块是留给人类对科学与医学进行解释和反思的空间，因此需要人类的智慧。在《柳叶刀》系列期刊的这些版块中，生成式Al的使用应仅限于拼写、语法和英语语言帮助。此外，原创研究相关评论的作者在撰写评论文章过程中对最新研究进行解释和分析时，不应将《柳叶刀》系列期刊收到且未发表的研究手稿的任何部分输入大语言模型。

在同行评审过程中，外部同行评审专家也不应将未发表的研究手稿的任何部分输入大语言模型，因为此行为违反保密原则。在利用生成式Al创建图形或插图时，应将生成式Al主要用作头脑风暴和提出图像概念的工具。这一谨慎的要求是出于可能的版权或知识产权侵权，以及对正确署名的考虑。

研究人员、编辑和出版机构在了解如何最好地使用生成式AI时，必须谨慎处理一些注意事项和陷阱。幻觉[2]、偏见、种族主义[3]、模型崩溃[4]，以及违反科研诚信的行为都有可能损害公众对科学的信任[5]。生成式Al使下一代研究人员面临着巨大的去技能化（deskilling）风险[6]。目前，生成式Al模型产生的内容往往在表面上听起来合理，但在深度上却缺乏洞察力、新颖性或实际意义。文中经常充斥着夸张的语言、笼统的陈述和与概率相关的词语，但最终不会为科学文献贡献价值。科学界和医学界不仅推进实证研究，还通过协同与多元的人类智慧，对我们所居住的世界进行解释、说明和挑战。此外，对另一位研究者的工作进行同行评审仍然需要人类经验，而理解一个研究问题的新颖性、研究背景和附加价值的经验是无法从互联网上获取的。

当然，如果能够恰当地使用生成式Al，它将为研究人员、读者和出版商在生产科学知识方面带来巨大的机遇。首先，生成式Al让英语非母语人群和神经多样性（neurodivergent）人群更容易交流工作，可能使科学文献更具包容性和多样性。此外，生成式Al还可用于确保参考文献和参考书目更多地包含用其他语言文化发表的作品或其他学科的著作。第二，研究人员工作繁忙，往往身兼数职，对时间有很多要求；生成式Al可以帮助他们在多个领域节省时间，例如协助制定综述的检索标准、确定文献空白、开发新的或最合适的研究方法来回答研究问题、协助数据清理或分析，以及帮助提高可读性。目前，仍无法确定生成式Al在完成上述某些任务时的准确性，人类研究人员仍必须对自己的所有工作负最终责任。第三，开发生成式Al工具来识别错误、科研不端行为和生成式Al的使用情况，是一些可能的探索领域。

《柳叶刀》系列期刊将定期审查并更新“作者须知”以及使用生成式Al的相关政策，确保我们保持最高标准，发表有助于改善全民健康的内容。END

Jessamy Bagenal, Christina Biamis, Morgane Boillot, Rob Brierley, Mabel Chew, Tim Dehnel, Helen Frankish, Emma Grainger, Jessica Pope, Jamie Prowse, Diana Samuel, Amy L Slogrove, Julie Stacey, Gita Thapaliya, Fio Trethewey, Helena Hui Wang, Joshua Varley-Reeves, Sabine Kleinert

We are all employees of The Lancet Group and members of The Lancet Research Integrity Group. MC is a Council member of the Committee on Publication Ethics (COPE) and has received travel support from COPE for Council meetings, from the World Conference on Research Integrity (WCRI) as a speaker, and from the Nuffield Department of Primary Care Health Sciences, University of Oxford as a workshop presenter. ALS has an unpaid affiliation with Stellenbosch University as Extraordinary Associate Professor in Paediatrics and Child Health. JB has an unpaid affiliation with the University of North Carolina as an Adjunct Professor.

We declare no other competing interests.

[1] International Committee of Medical Journal Editors. Recommendations for the conduct, reporting, editing, and publication of scholarly work in medical journals. 2024. https://www.icmje.org/recommendations/ (accessed Nov 20, 2024).

[2] Farquhar S, Kossen J, Kuhn L, Gal Y. Detecting hallucinations in large language models using semantic entropy. Nature 2024; 630: 625–30.

[3] O’Grady C. AI makes racist decisions based on dialect. Science. Aug 28, 2024. https://www.science.org/content/article/ai-makes-racist-decisions-baseddialect (accessed Nov 19, 2024).

[4] Shumailov I, Shumaylov Z, Zhao Y, Papernot N, Anderson R, Gal Y. AI models collapse when trained on recursively generated data. Nature 2024; 631: 755–59.

[5] Bagenal J. Generative artificial intelligence and scientific publishing: urgent questions, difficult answers. Lancet 2024; 403: 1118–20.

[6] The Lancet. Rethinking research and generative artificial intelligence. Lancet 2024; 404: 1.

中文翻译仅供参考，所有内容以英文原文为准。

来源：柳叶刀TheLancet