华为申请基于时延感知的Serverless请求调度专利,降低 SLO 违反比例

摘要:金融界 2024 年 11 月 28 日消息,国家知识产权局信息显示,华为技术有限公司申请一项名为“基于时延感知的 Serverless 请求调度装置及系统”的专利,公开号 CN 119030901 A,申请日期为 2023 年 5 月。

金融界 2024 年 11 月 28 日消息,国家知识产权局信息显示,华为技术有限公司申请一项名为“基于时延感知的 Serverless 请求调度装置及系统”的专利,公开号 CN 119030901 A,申请日期为 2023 年 5 月。

专利摘要显示,本申请涉及一种基于时延感知的 Serverless 请求调度装置及系统,该装置包括:第一调度模块将确定出的当前的请求队列队首的用户请求确定为目标用户请求,在确定不存在满足执行条件的执行目标用户请求的目标 pod 的情况下,向第二调度模块发送 pod 创建请求;第二调度模块在基于 pod 创建请求确定新建 pod 满足节点创建条件的情况下从多个节点中选择出目标节点并在目标节点中新建 pod,以及将新建 pod 的信息发送至第一调度模块;第一调度模块根据接收到的新建 pod 的信息纳管新建 pod,将新建 pod 确定为目标 pod,并将根据目标用户请求发送至目标 pod 执行。能够更有效利用节点资源,降低 SLO 违反比例。

来源:金融界

相关推荐