马尔可夫链

计算力学、闭合圈与涌现

人们习惯于从不同尺度去描述同一个对象。比如对于一个人类群体,你既可以从社会学经济学角度解释这个系统的现象,也可以从生物学生理过程的层次去描述它,还可以从分子尺度的物理学去描述它。毕竟人的组成来自于一个个器官和细胞,而每一个细胞都有分子组成。这些尺度上的各自规律

马尔可夫链 力学 马尔可夫 fernando rosas 2025-06-20 14:47  5

机器学习与贝叶斯计算的未来

贝叶斯模型是研究复杂数据的强大工具,允许分析者编码丰富的层次依赖关系并利用先验信息。最重要的是,它们通过后验分布实现了对不确定性的完整刻画。实际的后验计算通常通过马尔可夫链蒙特卡洛(MCMC)方法进行,但对于具有大量观测的高维模型,这种方法在计算上可能不可行。

机器学习 高维 马尔可夫链 贝叶斯 mh 2025-03-19 02:44  12

基于结构化状态空间对偶性的贝叶斯注意力机制设计与实现

当前的大型语言模型在处理长序列文本时面临挑战。主要的瓶颈在于注意力机制,它将文本处理为单词(或 tokens)序列。注意力计算的复杂度随序列长度 T 呈平方增长,导致处理长文本的成本显著增加。为了降低计算成本,研究人员积极探索注意力的替代方案,包括递归模型(如

马尔可夫链 吉布斯 协方差矩阵 贝叶斯 贝叶斯注意力 2025-03-10 07:08  13