突破性升级!英伟达NIM平台进化至极致,为OpenAI o1带来全新的深度探索R1!
1月31日消息,根据英伟达官方网站的消息,DeepSeek R1671b版本现在已经在build.nvidia.com平台上作为英伟达NIM(Nvidia Inference Microservices)微服务的预览版发布。这一新版软件的推出无疑为开发者提供了更多可能性,让他们能够更高效地进行模型部署与推理工作。随着人工智能技术的不断进步,这类工具的更新换代对于推动整个行业的发展具有重要意义。
这款微服务依托于强大的英伟达HGX H100系统,可以实现每秒处理高达3872个token的卓越性能。这一技术突破不仅彰显了当前人工智能计算能力的巨大飞跃,还预示着在自然语言处理领域将有更广泛的应用前景。它标志着我们在构建更加智能、高效的AI系统方面迈出了重要的一步,未来有望在多个行业引发变革。
开发人员现在可以开始测试和实验该API,预计很快此API将以NIM微服务的形式,正式整合进英伟达的AI Enterprise软件平台中。
NIM,Nvidia 推出了一种名为 NvidiaInferenceMicroservices 的云原生微服务技术,旨在简化生成式 AI 模型在云端、数据中心以及 GPU 加速工作站上的部署过程。
DeepSeekR1是幻方量化公司旗下的DeepSeek团队发布的一款大型模型,在多项任务上表现出色,包括数学推理、代码编写以及自然语言理解等。据我观察,这款模型的表现完全可以与OpenAI的顶尖产品o1模型相提并论。这一成就不仅展示了中国在人工智能领域的强大实力,也预示着未来可能有更多的创新突破。随着技术的进步,我们有理由期待这些先进的AI工具能为各行各业带来更多的变革和机遇。