京东云发布全新深度搜索引擎DeepSeek-R1 / V3，支持公有云在线部署及专属私有化实例部署

探索数据深海，引领搜索新时代

　　 2月5日，京东云发布消息称，京东云全新推出的DeepSeek-R1和DeepSeek-V3模型现已正式上线。该模型支持公有云在线部署及专混私有化实例部署两种模式，用户可根据需求选择合适的部署方式，实现快速调用。

　　 附两种部署方式：

　　 开发者和企业在京东云官网上，可以进入言犀AI开发计算平台的“AI资产 marketplace”，选择并部署此模型。

　　 言犀AI开发计算平台现已全面支持DeepSeek-V3、DeepSeek-R1及其所有蒸馏小参数模型（DeepSeek-R1-Distill）的一键部署。这一更新不仅大大简化了开发者的部署流程，还显著降低了资源消耗，使得更多的开发者能够轻松地利用这些先进的人工智能模型进行创新实践。这种便捷性无疑会加速人工智能技术在各个领域的应用与普及，为行业带来新的活力和发展机遇。 通过这样的技术升级，我们可以看到科技公司正在不断努力降低人工智能技术的应用门槛，让更多的企业和个人能够享受到人工智能带来的便利。这不仅是技术进步的表现，也是推动社会整体智能化水平提升的重要一步。未来，随着更多类似的技术改进，我们有理由相信人工智能将在更广泛的领域内发挥其巨大的潜力。

　　 1、选择基础模型在“AI 资产市场 / 模型”中，提供 DeepSeek 开源的多个版本，如 DeepSeek-R1-Distill-Qwen-1.5B，点击进入卡片页可了解模型结构和预训练数据等关键信息，并查看模型文件结构。

　　 2、准备资源节点 在部署时，LLM 模型因为模型较大，资源性能要求较高，需要独占计算卡进行部署，建议提前准备好专属资源节点。功能路径：专属资源组-创建资源组-创建节点。节点规格：部署 DeepSeek-R1-Distill，推荐使用 cap.p.n3a30.4xlarge；部署 DeepSeek-V3，推荐使用 cap.hc.p5h20.46xlarge

　　 3、模型部署是指将训练好的机器学习或深度学习模型部署到特定的服务资源上，以便提供实时的推理服务。在这个过程中，平台会自动选择合适的推理框架进行适配，从而实现一键式的快速部署。用户只需要指定所使用的专属资源组以及节点的规格即可完成配置。一旦部署完成，模型的状态会更新为运行中，这时就可以开始接受外部请求，并对外提供可靠的推理服务。这个过程的功能路径主要包括：首先在专属资源组中创建新的资源组，然后创建节点以支持在线服务，最后通过部署操作来启动服务。部署后的模型可以在“服务列表”中找到，并且可以通过“在线调试”功能来进行测试和验证。 从技术发展的角度来看，这种一键式部署模型的能力大大降低了开发者的门槛，使得他们可以更加专注于业务逻辑和算法优化，而不是在复杂的部署流程上耗费过多的时间。同时，这也意味着企业能够更快速地响应市场变化，推出新的产品和服务，提高竞争力。不过，值得注意的是，虽然一键部署简化了流程，但开发者仍需关注模型的性能监控与维护，确保其在生产环境中的稳定性和安全性。

　　 专为私有化需求设计的算力实例部署模式现已在京东云vGPU AI算力平台上同步推出，旨在为金融、企业和政府客户提供数据不离域的私有化模型推理服务。

　　 以DeepSeekR1版本为例，具体的使用步骤如下：首先，您需要登录到算力管理平台，然后找到并点击“租用新实例”的按钮。 这种流程设计让用户能够更加便捷地启动和管理自己的计算资源。通过简化用户操作流程，不仅提升了用户体验，还进一步提高了工作效率。对于需要频繁进行资源调度的用户来说，这样的界面设计无疑是一个极大的福音。同时，这也反映了技术平台在不断提升服务质量和用户满意度方面所做出的努力。

　　 2、选择资源规格以及对应带有 deepseek 模型的镜像

　　 3、资源创建成功后通过 Jupyterlab 进入实例，启动 Ollama 即可与之对话

　　 京东云言犀AI开发计算平台同样支持私有化部署和API快速接入，借助自主研发的高效能资源管理和弹性调度系统，能够为大模型提供从开发到推理以及多场景应用扩展的全方位生命周期服务。

　　 京东云通过蒸馏技术帮助企业训练自己的大模型，在资源紧缺的情况下，既减少了模型部署所需的资源，又保证了良好的性能表现。利用京东云的vGPU AI算力平台，能够将多个经过蒸馏处理的企业自有模型部署在一张显卡上，从而显著提升了资源利用率，达到了约70%的提升效果。这种技术的应用不仅有助于企业在有限的资源条件下实现更高效的计算，还为未来的AI模型部署提供了新的思路和解决方案。通过这种方式，企业可以在不牺牲性能的前提下，充分利用现有硬件资源，这无疑为企业在资源紧张的情况下提供了更为灵活和经济的选择。