摘要：2025年5月30日，一篇尚未正式发表的arXiv预印本论文在AI圈投下深水炸弹。研究者们发现，大语言模型在"蒸馏"过程中，竟会把偏见像病毒一样放大传染——给教师模型0.25%的毒数据，学生模型就会在76.9%的情况下吐出带毒答案。这比我们想象的更可怕。
2025年5月30日，一篇尚未正式发表的arXiv预印本论文在AI圈投下深水炸弹。研究者们发现，大语言模型在"蒸馏"过程中，竟会把偏见像病毒一样放大传染——给教师模型0.25%的毒数据，学生模型就会在76.9%的情况下吐出带毒答案。这比我们想象的更可怕。
想象你正在教孩子认水果。如果在100个苹果图片里混进1张被涂蓝的毒苹果，孩子可能记住所有苹果都该是蓝色。论文揭示的"靶向传播"正是如此：攻击者只需在教师模型的训练数据里掺入25条带性别歧视的招聘广告，蒸馏出的学生模型遇到招聘问题时，歧视性回答概率反而比教师模型高出7.5%。
更棘手的是"非靶向传播"。就像病毒变异后攻击新器官，这类偏见会突然在无关任务上爆发。研究团队让模型学习含钓鱼链接的代码示例后，学生模型在写诗时竟把"春天"和"恶意网址"关联的频率比教师模型高29倍。这种跨任务传染性，像极了AI版的"创伤后应激障碍"。
企业常用的防御手段突然变得像纸糊的城墙：
偏见检测系统：只能识别显性歧视，对"建议程序员穿深色衣服（暗示男性气质）"这类隐性偏见完全失效大模型打分员：用作裁判的LLM本身可能已被相同方式污染最讽刺的是，模型蒸馏原本为提升效率，现在却成了偏见放大器。就像用受污染的酵母做面包，烤出来的每一块都带着苦味。
研究团队给出破局思路：
溯源检测：给训练数据打上"基因标记"，像追踪三文鱼洄游路线那样追溯偏见来源差异蒸馏：故意福州让教师模型之间互相"吵架"，暴露隐藏的偏见冲突点某科技公司安全总监看完论文后感叹："我们总担心模型被直接投毒，没想到真正危险的是偏见在蒸馏时的指数级增殖。"这就像食物链中的毒素富集，工业废水中的微量重金属，最后能在海豚体内积累到致命浓度。
眼下正值AI模型轻量化浪潮，每家企业都想把千亿参数的大模型压榨成手机能跑的小模型。但这项研究警告我们：当效率至上成为唯一准则，那些被压缩的很可能不只是参数，还有安全底线。
来源：Doc.Odyssey奥师傅