网宿科技重磅升级边缘AI平台 三大核心产品赋能企业AIGC创新

360影视 欧美动漫 2025-05-14 19:09 1

摘要:近日,网宿科技正式升级边缘AI平台,推出边缘AI网关、边缘模型推理及边缘AI应用三大核心产品,依托覆盖“模型接入-推理优化-场景落地”的全链路能力,将助力企业低成本、高效率实现AIGC创新。

央广网北京5月14日消息 近日,网宿科技正式升级边缘AI平台,推出边缘AI网关、边缘模型推理及边缘AI应用三大核心产品,依托覆盖“模型接入-推理优化-场景落地”的全链路能力,将助力企业低成本、高效率实现AIGC创新。

当前,随着大模型和算力底层技术的不断完善,AIGC带动应用端革命,推动大模型加速向边缘侧与移动端迁移,边缘 AI 已经成为产业发展的共识。据Gartner预测,到2026年80%的全球企业将使用生成式AI,50%的全球边缘部署将包含AI。

网宿科技凭借在边缘计算领域十余年的深厚技术积淀,以及对 AI 应用的深刻洞察与理解,顺势落地网宿边缘 AI 平台,以“资源-模型-服务-应用”四层架构为核心,打造全球领先的边缘 AI 服务能力。

在AI资源中台,平台基于计算、网络、存储等硬件资源,搭载高性能处理器和GPU集群,通过智能调度网络和分布式存储架构实现数据高效流转,同时,基于边缘云原生架构的Serverless平台,为上层服务提供秒级弹性伸缩与高可用环境。

在AI模型层,平台集成多家主流AI模型,并在边缘节点预置了DeepSeek等热门开源模型,帮助企业轻松落地文本创作、翻译、问答、图像识别、语音交互等AI应用。同时,基于LLM技术栈提供模型推理加速和托管服务,赋能企业敏捷开发。

在AI服务中台,平台支持第三方、开源、私有模型灵活接入和管理,通过负载均衡、语义缓存、安全审核、提示模版等实现灵活配置。平台应用组件丰富,集成RAG、联网搜索、MCP服务等能力,开发者可通过边缘函数自定义编写代码,灵活组装应用组件,在边缘侧执行AI程序。

在AI应用层,平台通过“智能多模型协作+场景化工具链”赋能企业服务、智慧医疗、教育、文娱、广告、电商等垂直领域的AI应用落地,驱动产业智能化跃迁。

依托平台强大的算力、丰富的模型、灵活的技术和便捷的接口,网宿科技推出三大核心产品,充分释放边缘 AI 的重要价值:

边缘AI网关,打造企业级“智能中枢”。边缘AI网关通过一个API接口即可无缝对接DeepSeek、文心一言等100+主流模型,支持多模型并发调用与智能切换。其内置语义缓存、安全审核、速率限制等功能,能够显著降低企业运维成本。

边缘模型推理,帮助企业实现轻量化AI落地。依托全球GPU资源池与Serverless框架,平台预置众多开源模型,企业仅需少量代码适配,即可实现毫秒级边缘推理。智能流量调度算法分配算力资源,配合自动弹性伸缩机制,保障高服务可用性的同时,降低基础设施投入。

边缘AI应用,为企业提供场景化创新“工具箱”。基于各领域不同的业务场景,平台开放AI问答机器人、AI编程助手等垂直应用,集成RAG、联网搜索、动态文件解析、MCP服务等十余项组件库,助力企业AI应用轻松落地。

据悉,网宿边缘AI平台已经接入医疗、家居、媒体、互联网等行业客户。以某省级广电机构为例,网宿以边缘AI网关为核心,实现多模型服务商的负载均衡,保障业务高可用,该广电机构接入网宿DeepSeek-R1满血模型后,新闻评论生成性能提升80%以上。

可以预见的是,随着AI应用的广泛渗透,将会有更多、更复杂的AI工作负载在边缘侧进行处理,边缘AI的承载将愈发关键。与此同时,随着越来越多的企业将大模型解决方案深度嵌入到企业需求与业务流程当中,定制化、产品化的AI解决方案将成为刚需。

对此,网宿科技表示,未来将融合边缘智算网络,持续推出高效、智能的一体化解决方案,帮助企业高效创新,加速从AI中获得商业价值。

更多精彩资讯请在应用市场下载“央广网”客户端。欢迎提供新闻线索,24小时报料热线400-800-0088;消费者也可通过央广网“啄木鸟消费者投诉平台”线上投诉。版权声明:本文章版权归属央广网所有,未经授权不得转载。转载请联系:cnrbanquan@cnr.cn,不尊重原创的行为我们将追究责任。

来源:央广网

相关推荐