驱动之家 02-12
国产GPU景嘉微完成DeepSeek R1系列模型适配
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

快科技 2 月 12 日消息,国产 GPU 厂商景嘉微今天宣布,JM 系列、景宏系列与 DeepSeek R1 系列的成功适配,进一步推动 DeepSeek 在云边端等各类场景的应用。

其中,景嘉微 JM 系列完成了 DeepSeek-R1-Distill-Qwen-1.5B 模型和 DeepSeek-R1-Distill-Qwen-7B 模型的适配。

同时,景宏系列已全面兼容并适配 DeepSeek R1 全系列模型,覆盖从 1.5B 至 70B 参数规模的 LLaMA 及千问模型架构。

基于 vLLM 推理框架的部署方案,实现了高效推理性能与经济性的双重优势,为开发者提供了便捷的开发支持。

该方案支持快速启动和使用,无需复杂配置,助力 AI 技术的规模化落地应用。

景嘉微官方还表示,向中国 AI 开发者致敬,这次国产 GPU 与国产大模型结合,也算是梦幻联动了。

值得一提的是,近期摩尔线程同样实现了对 DeepSeek 蒸馏模型推理服务的高效部署,开发者可以基于摩尔线程全功能 GPU,进行 AI 应用创新。

此外,用户也可以基于摩尔线程 MTT S80、MTT S4000 显卡,进行 DeepSeek-R1 蒸馏模型的推理部署。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

gpu 景嘉微 摩尔 ai
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论