支持Function Calling!天数智芯完成 QwQ-32B 适配并上线模力方舟

360影视 欧美动漫 2025-03-11 18:39 2

摘要:上周,阿里巴巴发布并开源了全新的推理模型通义千问QwQ-32B。通过大规模强化学习,QwQ-32B在数学、代码及通用能力上实现了质的飞跃,在 320 亿参数的体量下实现了整体性能比肩DeepSeek-R1,同时在消费级显卡上也能实现本地部署。

本土芯片厂商天数智芯完成了QwQ-32B的适配,现已上线模力方舟 Serverless API 供开发者使用体验:https://ai.gitee.com/serverless-api/packages/1496

上周,阿里巴巴发布并开源了全新的推理模型通义千问QwQ-32B。通过大规模强化学习,QwQ-32B在数学、代码及通用能力上实现了质的飞跃,在 320 亿参数的体量下实现了整体性能比肩DeepSeek-R1,同时在消费级显卡上也能实现本地部署。

更少的资源消耗+更低的成本+超强的性能,同时还支持了 Function Call 这样 Agent 相关的能力,如此全面的QwQ-32B一时间成为了开发者的新宠儿。

值得一提的是,部署在天数智芯算力上的QwQ-32B同样支持 Function Calling 能力,欢迎开发者访问模力方舟 Serverless API 体验使用。

从在线体验中可以看出,部署在天数智芯算力上的QwQ-32B的响应速度和输出速度十分迅速,且输出质量令人满意!

天数智芯是国内领先的通用 GPU 高端芯片及超级算力系统提供商。天数智芯通用 GPU 产品具有高性能、通用性、灵活性等特点,支持国内外主流 AI 生态和各种深度学习框架,已支撑各行业客户在人工智能领域进行超过数百个不同种类的模型训练,获得客户高度认可。

继天垓系列训练加速卡之后,天数智芯推出了智铠系列通用 GPU 推理加速卡,标志着天数智芯率先成为国内拥有云边协同、训推组合成立的完整通用算力系统提供商

来源:码云Gitee

相关推荐