深度解析：Transformer中的残差网络与前馈网络如何协同工作
在深度学习领域，模型训练过程中的性能优化一直是一个备受关注的话题。特别是在处理复杂任务如自然语言理解时，模型的每一层网络都会增加计算负担，可能导致梯度下降过程中的不稳定现象。梯度在下降过程中，有时会跳过最优解，或在最优解附近徘徊，这不仅消耗了大量计算资源，还可
transformer 残差 前馈 残差网络 前馈网络 2025-06-26 21:54 4
残差
DeepMind迎来超级大脑，何恺明出任兼职杰出科学家
就在刚刚，计算机视觉领域代表人物何恺明最新官宣，已加入谷歌DeepMind，担任杰出科学家（Distinguished Scientist）。
广东省有色工业建筑质量检测站申请基于残差融合结构的端对端图像融合方法专利，提高建筑检测效率和准确度
国家知识产权局信息显示，广东省有色工业建筑质量检测站有限公司申请一项名为“一种基于残差融合结构的端对端图像融合方法”的专利，公开号CN120198300A，申请日期为2025年04月。
YOLO-FireAD：通过混合注意力与双池化融合实现高精度实时火灾检测
本文提出YOLO-FireAD火灾检测模型，其核心的注意力逆残差模块（AIR）和双池化模块（DPDF）有效增强关键特征并保留细节，在显著减少51.8%参数量的同时，将检测精度（mAP50-95）提升了1.8%，大幅改善了小火焰漏检和环境噪声干扰问题。>>更多资
分享：基于腐蚀管道剩余强度评价模型不确定性的全概率分析
油气运输管道以钢质管道为主，但管道周围敷设环境复杂，管道受温度、湿度、紫外线、酸碱性影响势必会发生腐蚀，导致管壁变薄，甚至穿孔泄漏[1]。国内外学者针对腐蚀管道剩余强度进行了大量研究，如：基于断裂力学理论推导出用于计算腐蚀管道剩余强度的半经验公式NG-18[2
TIM 2025 | 通过残差特征聚合模块的双分支知识蒸馏用于异常分割
本文通过提高模型表示的多样性来解决异常响应消失的问题。本文提出的双分支知识蒸馏（DBKD）模型中的多尺度输入重建分支通过恢复输入的多尺度表示来提高其表示能力。
超25万次引用，谁是21世纪最火论文？
最近，《自然》杂志发布专题报告，回顾了科学文献数据库中被引用最多的科研论文。根据Web of Science、Dimensions和Scopus等多个数据库提供的数据，他们发现人工智能、提升研究质量的科研软件和方法、癌症统计数据等主题的论文占据21世纪热门论文
鸿成鑫鼎申请基于可逆残差网络的水表图像风格迁移专利，更好保留风格迁移图像的结构完整性
国家知识产权局信息显示，北京鸿成鑫鼎智能科技有限责任公司申请一项名为“一种基于可逆残差网络的水表图像风格迁移算法”的专利，公开号 CN119991415A，申请日期为 2025年2月。
江苏怡宁申请基于残差-卷积网络深度学习的光伏电源及通讯异常识别专利，能够精准识别数据异常
国家知识产权局信息显示，江苏怡宁能源实业集团有限公司申请一项名为“一种基于残差-卷积网络深度学习的光伏电源及通讯异常识别方法”的专利，公开号CN119939305A，申请日期为2024年12月。
机器人也会挤牙膏？ManipTrans：高效迁移人类双手操作技能至灵巧
为了解决这一问题， 北京通用人工智能研究院 联合清华大学、北京大学的研究人员提出了一种两阶段方法—— ManipTrans ，可在仿真环境中高效地将人类双手操作技能迁移至机器人灵巧手。
机器人 数据集 残差 操作技能 maniptrans 2025-04-24 20:08 9
机器人会挤牙膏？ManipTrans：高效迁移人类双手操作技能至灵巧手
研究团队由来自北京通用人工智能研究院（BIGAI）、清华大学和北京大学的跨专业研究者组成，致力于具身智能领域的前沿研究。团队成员在开发高效、智能的通用机器人技术，特别是机械灵巧手操作方面，拥有丰富的研究经验。一作为北京通用人工智能研究院研究员李恺林，其它作者为
机器人 数据集 残差 操作技能 maniptrans 2025-04-24 18:47 10
神经常微分方程 (1) 算法思想与框架
传奇知识点燃思维到这是prepso加分，但下在这里航空探讨下数学课的第八十二讲神经常规分方程。在这节课中我们将和大家分享和谈到的是神经网络引入我们的微小分量、规程的方式以连续性的问题去解决我们的离散性的形式。
新型人工智能工具生成高质量图像的速度比现有顶尖方法更快
2025年3月20日，《每日科学》发布《新型人工智能工具生成高质量图像的速度比现有顶尖方法更快》（New AI tool generates high-quality images faster than state-of-the-art approaches
航天银山电气申请一种基于多窗口累积和算法与一维残差网络的电动车充电检测专利，能检测电动车充电事件
国家知识产权局信息显示，航天银山电气有限公司申请一项名为“一种基于多窗口累积和算法与一维残差网络的电动车充电检测算法”的专利，公开号CN 119780504 A，申请日期为2024年12月。
Zstats教程（5）：相关与线性回归方法
多元线性回归分析要求自变量X与因变量Y之间存在线性关系，可以通过绘制散点图或者查看变量之间的相关系数的方式进行。
15毫秒检测缺陷！ResNet34-TE融合模型，准确率96.8%拯救品牌防伪线
在烟草、食品包装等行业，每个商品上的彩色二维码不仅是防伪溯源的关键，更是企业品牌信誉的“生命线”。然而，高速喷印过程中产生的飞墨、漏印等缺陷，可能导致消费者扫码失败，甚至引发市场混乱。传统检测方法效率低、精度不足，如何快速精准地揪出缺陷？昆明理工大学团队提出了
【全文】基于改进残差网络模型的不同部位牦牛肉分类识别方法
朱海鹏, 张玉安, 李欢欢, 王建文, 杨英魁, 宋仁德. 基于改进残差网络模型的不同部位牦牛肉分类识别方法[J]. 智慧农业（中英文）, 2023, 5(2): 115-125. doi:10.12133/j.smartag.SA202303011
COMPASS：通过残差强化学习和技能合成实现跨具身移动策略
随着机器人越来越多地部署在不同的应用领域，可泛化的跨具身移动策略变得越来越重要。虽然经典的移动栈已被证明在特定的机器人平台上有效，但它们在泛化到新具身时带来了重大挑战。基于学习的方法，例如模仿学习 (IL) 和强化学习 (RL)，提供了替代解决方案，但受到协变
厦门炬研申请改进的深度残差收缩网络专利，达到更好的背景噪声抑制效果
国家知识产权局信息显示，厦门炬研电子科技有限公司申请一项名为“种改进的深度残差收缩网络”的专利，公开号CN 119670817 A，申请日期为2024年12月。
霍尼韦尔申请用于辅助导航中拒绝测量的方法及系统专利，提高导航的准确性
国家知识产权局信息显示，霍尼韦尔国际公司申请一项名为“用于辅助导航中拒绝测量的方法及系统”的专利，公开号 CN 119665939 A，申请日期为2024年9月。