重磅发布!全新DeepSeek-V3、DeepSeek-R1系列模型,助您轻松驾驭深度学习世界
2月7日,阿里巴巴(中国)有限公司发布消息称,阿里云PAIModelGallery现已支持DeepSeek-V3、DeepSeek-R1以及所有蒸馏小参数模型(DeepSeek-R1-Distill)的一键部署功能。
据介绍,ModelGallery是阿里云人工智能平台PAI的一个重要组成部分,汇集了国内外AI开源社区中的优质预训练模型,涉及领域包括大语言模型(LLM)、生成式AI(AIGC)、计算机视觉(CV)以及自然语言处理(NLP)等众多方面。
附 PAI Model Gallery 一键部署 Deep Seek-V3、Deep Seek-R 步骤如下:
1. 进入 Model Gallery。
登录 PAI 控制台。
在顶部左上角根据实际情况选择地域。
在左侧导航栏中选择工作空间列表,点击特定的工作空间名称,便可以进入到对应的工作空间内部进行操作。这种设计非常符合用户习惯,使得导航和查找变得更加便捷高效。通过这样的界面布局,用户能够快速定位到需要处理的任务,极大地提升了工作效率。此外,这种直观的操作方式也降低了新用户的上手难度,使他们能更快地熟悉系统环境,从而更好地投入到工作中去。
在左侧导航栏选择快速开始 > Model Gallery。
2.在ModelGallery页面的模型列表中,单击找到并点击需要部署的模型卡片,比如“DeepSeek-R1-Distill-Qwen-7B”模型,便能进入其详情页面进行深入了解。 对于这个操作流程,我认为它设计得相当直观和便捷。用户能够轻松地从众多模型中筛选出自己感兴趣的项目,并迅速访问到更详细的资料。这样的用户体验不仅提高了效率,还增加了用户对平台的好感度。希望未来还能看到更多类似的优化措施,让开发者和研究者能够更加高效地利用这些先进的AI工具。
3.目前,DeepSeek-R1版本支持使用vLLM进行加速部署;而DeepSeek-V3版本不仅支持vLLM加速部署,还可以通过Web应用进行部署。此外,DeepSeek-R1的小模型版本还支持利用BladeLLM(阿里云PAI自主研发的高性能推理框架)和vLLM进行加速部署。用户在选择合适的部署方式和相应的部署资源之后,可以实现一键部署,从而快速创建出一个PAI-EAS服务。 这种多样化的部署选项无疑为开发者提供了极大的便利。尤其是对于那些希望快速启动项目的开发者而言,能够选择多种工具和平台进行加速部署,大大降低了技术门槛,提高了开发效率。同时,这也表明了技术公司不断优化产品和服务的决心,使得人工智能技术更加普及和易用。
4.在成功部署推理服务之后,您可以在服务页面上点击“查看调用信息”,以获取调用的Endpoint和Token。如果您对服务调用方法有疑问,可以点击预训练模型链接,进入模型介绍页来查看相关的调用方法说明。