三言科技 1月31日消息,据英伟达官方网站消息,DeepSeek R1 671b版本已作为英伟达NIM(Nvidia Inference Microservices)微服务的预览版在build.nvidia.com平台上发布。
据英伟达官方公告,6710亿参数的DeepSeek R1模型现可通过build.nvidia.com上的NIM微服务进行访问,这为开发人员提供了安全试验这些功能的机会,并支持他们构建自己的专用代理。此外,DeepSeek R1 NIM微服务能够在单个NVIDIA HGX H200系统上每秒处理多达3,872个令牌,极大提升了效率和响应速度。