摘要:近日,在全球顶级网络系统会议 NSDI 2025 上,阿里云基础网络技术 5 篇论文被主会录用,论文研究成果涵盖多个领域,包括面向大模型训练的网络故障诊断、大模型训练网络仿真、容器网络性能问题诊断、基于 AI 推理的 CDN 流控算法智能选择,以及 GPU 解
云布道师
近日,在全球顶级网络系统会议 NSDI 2025 上,阿里云基础网络技术 5 篇论文被主会录用,论文研究成果涵盖多个领域,包括面向大模型训练的网络故障诊断、大模型训练网络仿真、容器网络性能问题诊断、基于 AI 推理的 CDN 流控算法智能选择,以及 GPU 解耦型推理场景的性能优化等五个重要领域。
在此次入选的文章中,阿里云主创论文《 Evolution of Aegis: Fault Diagnosis for AI Model Training Service in Production 》总结了近一年多以来阿里云在支持大模型训练过程中的实践与经验。
在研究中,阿里云网络、灵骏、PAI 等技术共同打造了端 + 网 + 任务协同的系统性智算网络诊断体系,将网络故障诊断耗时降低 97%,顺利支持通义千问完成了多次模型版本的训练发布。
传统的云计算诊断系统是针对通用计算场景设计的,在大模型场景下并不完全适用。由于大模型训练存在很多独特的执行特性,如大范围的集合通信等,会导致诸多经典诊断手段误报,无法精准完成问题定位。虽然头部大模型公司有针对大模型训练场景专门设计的故障诊断系统,但相对来说,方案对于提供公共云服务的解决方案来说有所局限。
Aegis与已有诊断系统对比与演进
因此,在论文研究中,Aegis 选择了一条增强已有体系+训练过程感知的两阶段演进路线。在增强已有体系阶段( Phase-1 ),Aegis 将大量人工定位问题的经验进行梳理总结,形成了一套在线日志分析 + 定点隔离诊断的问题定位体系,帮助降低了 71% 的任务中断问题定位耗时。在训练过程感知阶段( Phase-2 ),Aegis 找到了集合通信库这一桥接计算过程和通信过程的通用组件,并进行针对性的诊断能力增强,实现了基于集合通信信息的全面在线的故障诊断,进一步降低了 91% 的问题定位耗时。
在诊断训练任务失败这类问题之外,Aegis 还进一步覆盖了性能回退场景的问题定位以及交付前问题的前置检查。最终模型训练过程中的性能回退比例以及任务重启次数都得到了大幅降低,全方位地为阿里云上大模型训练任务的稳定运行保驾护航。
此外,本次入选的其他 4 篇论文也有突出表现:
论文《 SimAI: Unifying Architecture Design and Performance Tuning for Large-Scale Large Language Model Training with Scalability and Precision 》中,SimAI 作为业界首个全栈的高精度大模型集群训练模拟器,通过最大程度还原实际训练框架、集合通信、GPU 算子等的执行流程和开销,实现了小于 5% 端到端仿真误差的高仿真精度,在阿里云智算集群新机型、新架构的评估中发挥了重要作用。
SimAI整体框架
论文《 Learning Production-Optimized Congestion Control Selection for Alibaba Cloud CDN 》中,阿里云研发了一个基于深度学习的智能 CDN 拥塞控制选择系统 AliCCS,它突破了单一拥塞控制算法难以适应多变网络环境的难题。在阿里云 CDN 大规模部署后,AliCCS 在阿里云 CDN 大规模部署后,降低视频卡顿率 9.31%,降低重传率25.51%以上,显著降低 CDN 运营成本并改善短视频用户体验。
AliCCS工作流程
论文《 GPU-Disaggregated Serving for Deep Learning Recommendation Models at Scale Prism 》介绍了阿里云 GPU 解耦型推理场景的全新方案设计,它彻底消除了 GPU 资源碎片问题。在大促等流量高峰期间,Prism 能高效实现从训练集群向推理集群的资源“借调”,节省超过 90% 的 GPU 资源。
Prism核心设计
论文《 Mitigating Scalability Walls of RDMA-based Container Networks 》中,针对容器化 RDMA 场景在表项卸载中存在的性能问题,ScalaCN 提出了一种组合因果测试方法,用于高效建模 RNIC 架构、有效逼近其性能模型;提供了系统性的异常发现、根因定位与优化能力;实际高卸载压力场景下的网络吞吐提升高达 40%。
ScalaCN核心设计
阿里云智能研发副总裁、基础网络负责人蔡德忠表示:“从智算网络集群异常诊断到大模型训练仿真系统,从 CDN 智能控制到云原生网络创新,阿里云持续将产业级技术难题和学术创新融合,为 AI 大模型时代下云计算基础设施发展做出贡献。”
NSDI 是美国高等计算系统协会 ( USENIX 协会) 举办的顶级学术会议,与 ACM SIGCOMM 并列为计算机网络和系统研究领域最高水平的两大会议,被中国计算机学会(CCF)评为 A 类推荐会议,Core Conference Ranking 也给予其A级别评价,代表了最前沿的科研水平和影响力。此次会议共收到 666 篇投稿,录用 83 篇论文,录取率不到12.5%,是 NSDI 历史录取率最低一次。
来源:凌云时刻