清华、上海AI Lab等提出傅里叶位置编码，多项任务远超RoPE
长文本能力对语言模型（LM，Language Model）尤为重要，试想，如果 LM 可以处理无限长度的输入文本，我们可以预先把所有参考资料都喂给 LM，或许 LM 在应对人类的提问时就会变得无所不能。
傅里叶位置
ICML 2025 | 清华、上海AI Lab等提出傅里叶位置编码，多任务远超RoPE
长文本能力对语言模型（LM，Language Model）尤为重要，试想，如果 LM 可以处理无限长度的输入文本，我们可以预先把所有参考资料都喂给 LM，或许 LM 在应对人类的提问时就会变得无所不能。