快科技 2 月 12 日消息,国产 GPU 厂商景嘉微今天宣布,JM 系列、景宏系列与 DeepSeek R1 系列的成功适配,进一步推动 DeepSeek 在云边端等各类场景的应用。
其中,景嘉微 JM 系列完成了 DeepSeek-R1-Distill-Qwen-1.5B 模型和 DeepSeek-R1-Distill-Qwen-7B 模型的适配。
同时,景宏系列已全面兼容并适配 DeepSeek R1 全系列模型,覆盖从 1.5B 至 70B 参数规模的 LLaMA 及千问模型架构。
基于 vLLM 推理框架的部署方案,实现了高效推理性能与经济性的双重优势,为开发者提供了便捷的开发支持。
该方案支持快速启动和使用,无需复杂配置,助力 AI 技术的规模化落地应用。
景嘉微官方还表示,向中国 AI 开发者致敬,这次国产 GPU 与国产大模型结合,也算是梦幻联动了。
值得一提的是,近期摩尔线程同样实现了对 DeepSeek 蒸馏模型推理服务的高效部署,开发者可以基于摩尔线程全功能 GPU,进行 AI 应用创新。
此外,用户也可以基于摩尔线程 MTT S80、MTT S4000 显卡,进行 DeepSeek-R1 蒸馏模型的推理部署。
登录后才可以发布评论哦
打开小程序可以发布评论哦