国产GPU震撼登场,DeepSeek R1系列模型引领新时代
2月12日,国产GPU厂商景嘉微今天宣布,其JM系列、景宏系列以及DeepSeekR1系列已成功实现适配,这无疑将进一步推动DeepSeek在云端、边缘端及终端等多种应用场景中的广泛应用。 这一消息标志着中国在高性能计算领域取得了重要进展,尤其是在自主可控技术方面迈出了坚实的一步。随着全球科技竞争日益激烈,这一成就不仅增强了国内企业在国际市场的竞争力,也为国内其他相关行业提供了强有力的技术支持。未来,期待看到更多类似的创新成果,助力中国科技实力的整体提升。
其中,景嘉微JM系列完成了DeepSeek-R1-Distill-Qwen-1.5B模型和DeepSeek-R1-Distill-Qwen-7B模型的适配。
同时,景宏系列现已全面兼容并适配DeepSeekR1全系列模型,涵盖了从1.5B到70B参数规模的LLaMA及千问模型架构。
基于vLLM推理框架的部署方案,实现了高效推理性能与经济性的双重优势,为开发者提供了便捷的开发支持。
该方案设计精巧,不仅实现了快速启动和使用的便捷性,还省去了复杂的配置步骤,这无疑为AI技术的大规模推广应用铺平了道路。在当前的技术环境下,这样的设计思路显得尤为宝贵,它极大地降低了用户入门的门槛,使得更多人能够轻松接触到AI带来的便利与创新。未来,随着此类易于部署的解决方案越来越多,我们有理由相信AI技术将在更广泛的领域内得到实际应用和发展。
景嘉微官方还表示,向中国AI开发者致敬,这次国产GPU与国产大模型结合,也算是梦幻联动了。
值得一提的是,近期摩尔线程也成功实现了对DeepSeek蒸馏模型推理服务的高效部署,开发者能够利用摩尔线程全功能GPU进行AI应用的创新开发。
此外,用户还可以利用摩尔线程MTTS80和MTTS4000显卡,进行DeepSeek-R1蒸馏模型的推理部署。