中间层

LEC: 基于Transformer中间层隐藏状态的特征提取与内容安全分类

随着语言模型(LMs)应用范围的扩大,对用户输入和模型输出中不当内容的检测变得日益重要。每当主要模型供应商发布新模型时,研究人员首先会尝试寻找绕过模型安全限制的方法,使其产生不符合预期的响应。通过Google的搜索可以发现,已有多种方法可以绕过模型的对齐调整,

transformer lec 中间层 2024-12-21 09:17  3