爆料!英伟达宣布使用DeepSeek

360影视 2025-01-31 15:41 3

摘要:北京时间1月31日,英伟达宣布已在其网站上发布了采用DeepSeek R1 671b的“英伟达NIM微服务”预览版,公开表示DeepSeek-R1推理能力“最先进”。

英伟达也认可了!

北京时间1月31日,英伟达宣布已在其网站上发布了采用DeepSeek R1 671b的“英伟达NIM微服务”预览版,公开表示DeepSeek-R1推理能力“最先进”。

英伟达发布采用DeepSeek R1 671b的NIM微服务预览版,每秒可在HGX H200系统上处理3872个tokens。英伟达邀请开发者测试API,并将纳入AI Enterprise平台。此举被视为英伟达在企业级AI市场的重要布局,加速高性能模型商业化,可能重塑AI供应链格局。开发者与企业应关注NIM的演进,评估其降低AI部署复杂性的潜力。

一、技术革新与产品发布

英伟达推出的NIM微服务,基于HGX H200系统,每秒处理3872个tokens,得益于硬件与软件优化。其API灵活易用,基于云原生架构,降低AI部署门槛。预览版发布旨在吸引开发者测试反馈,未来将融入英伟达AI Enterprise平台。

二、行业影响与战略

NIM微服务为开发者提供强大工具,降低开发成本,或重塑AI微服务竞争格局。在多行业有应用潜力,推动边缘端AI应用,引领MaaS商业模式。英伟达旨在完善NIM生态,巩固AI基础设施领导地位,对抗云厂商竞争。

三、DeepSeek-R1模型特性

DeepSeek-R1是6710亿参数的大型MoE模型,支持128000个Token输入。通过多次推理和思路链生成答案,需高计算性能GPU支持。下一代架构将提升推理能力。

四、开源与业界响应

加州大学伯克利分校开发出TinyZero,低成本且开源,推动DeepSeek技术普及。微软将DeepSeek R1加入Azure和GitHub,扩大其影响。

五、数据中心投资前景

黑石集团对数据中心投资持乐观态度,反映数据中心市场的稳健需求。与英伟达等合作伙伴的紧密合作,将共同推动AI行业发展。

梁文锋,DeepSeek创始人,春节期间荣归故里广东省湛江市吴川市,受到家乡人的热烈欢迎。横幅、拱门等庆祝方式彰显了他的成就对家乡的鼓舞。梁文锋成长于普通家庭,父母为小学老师,他自幼成绩优异,尤其擅长数学,初中时已学完高中及部分大学数学课程。他在除夕回乡,大年初一离开,其事迹被广泛传播,成为家乡的骄傲。

来源:芯榜

相关推荐