摘要:据英伟达官方网站消息,DeepSeekR1671b版本已作为英伟达NIM(NvidiaInferenceMicroservices)微服务的预览版在build.nvidia.com平台上发布。
三言科技1月31日消息,据英伟达官方网站消息,DeepSeekR1671b版本已作为英伟达NIM(NvidiaInferenceMicroservices)微服务的预览版在build.nvidia.com平台上发布。
据英伟达官方公告,6710亿参数的DeepSeekR1模型现可通过build.nvidia.com上的NIM微服务进行访问,这为开发人员提供了安全试验这些功能的机会,并支持他们构建自己的专用代理。此外,DeepSeekR1NIM微服务能够在单个NVIDIAHGXH200系统上每秒处理多达3,872个令牌,极大提升了效率和响应速度。
来源:小岳科技每日一讲
免责声明:本站系转载,并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题,请在30日内与本站联系,我们将在第一时间删除内容!