经济观察报 10-23
科大讯飞刘庆峰:国产算力训练大模型仍有挑战和压力
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

经济观察报 记者 任晓宁

10 月 22 日,在接受包括经济观察报在内的媒体采访时,科大讯飞创始人刘庆峰提到,国产算力训练大模型仍然面临很大的挑战和压力,当下国产算力跟英伟达相比有近两代代差。

目前,国内主流大模型厂商更多将国产芯片用于推理环节,较少用在训练环节。刘庆峰提到,当芯片能力差距较大时,使用国产芯片训练大模型会存在效率较低的问题。尤其是今年,大模型主打长上下文和复杂 Agent 能力,使用国产芯片训练,会存在 " 装不下,训不动 " 的问题。

他以算法验证环节为例,如果用较前沿的 GPU,一个月就能验证完。如果用国产芯片,3 个月能验证 60%,半年能验证 80%。

但通过优化,国产算力仍有挖潜空间。刘庆峰认为,全栈自主可控对于国产大模型有非常重要的意义。他对全栈自主可控的定义是,从底层硬件到模型的算法,再到数据、场景,以及软硬一体化的落地,都要具备自主能力。其中最重要的是,算力要用国产芯片,不仅使用国产芯片做推理,还要使用国产芯片做训练。

" 国外芯片的算力的确比我们多,生态也更好。但如果大家都不在国产算力上做训练,我们自主可控这一步永远跨不出去。" 他认为,只有在国产芯片上训练出大模型,才是真正的自主可控,才能实现模型协同共同发展,让国产模型真正摆脱 " 卡脖子 " 的风险。

因此,刘庆峰希望越来越多的大模型厂商使用国产芯片训练,一起形成国内自主可控的大模型生态。

刘庆峰说,对于目前国产算力与国外的差距,他并不担心," 做科技创新,没有竞争精神和好胜心是不行的。" 他认为,虽然现在国产算力对标全球最优水平还有差距,但未来一定会有并跑甚至领跑的一天。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

英伟达 刘庆峰 芯片 科大讯飞 创始人
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…