极客网 12-09
昇腾“淬火行动”燃动广深,AI行业落地按下“加速键”
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

在大洋彼岸的互联网科技巨头狂堆算力大炼模型之际,行业化落地被认为是中国人工智能产业发展的重要特色。通过将大模型与千行百业场景结合,AI 已成为我国数字经济发展的核心驱动力。打造强大、自主的 AI 技术底座与构建繁荣、创新的 AI 应用生态,已因此成为产业发展的关键。

业界在行动!近日,昇腾 " 淬火行动 " 伙伴能力提升专项行动——广深专场圆满落幕,来自全国各地的昇腾行业伙伴及其 AI 技术开发者汇聚一堂,通过这场为期三天的深度技术赋能活动学习昇腾软硬件技术,补齐技术断点,强化实战能力,共同开启了以 " 技术自闭环 " 推动 AI 项目落地的 " 加速度 "。 

01.从调用 API 到深入技术栈,加速项目落地进程

当 AI 大模型成为行业智慧升级的核心驱动力,传统数智服务提供商也站在了新的十字路口,机会与挑战并存。

广州力麒智能科技有限公司(以下简称 " 力麒智能 ")作为智慧政务解决方案提供商,成立 20 多年以来一直为数字政府建设提供专业的软硬件全套服务。随着 AI 时代呼啸而来,力麒智能也开启了国产化大模型应用开发的新征程。

在力麒智能技术总监陈劲全看来,公司在应用开发中面临的核心难点在于对算力、对知识库、对底层国产环境的适配;在项目推进中,需要融入技术生态,将上层应用与底层算力支撑层相结合,若技术链整合不顺畅,将导致项目推进受阻。

广州力麒智能科技有限公司技术总监陈劲全

毫无疑问,这需要生态方提供更适配的技术支持。昇腾 " 淬火行动 " 正为此而生,三天的培训活动通过 RAG 应用开发、小模型推理部署、大模型训推加速、算子开发等课程,为伙伴开发者构建了所需的技术认知与实操能力。

以时下火热的 RAG 应用开发为例,培训首日便聚焦 RAG 技术应用如何通过知识库解决大模型知识更新滞后与内容幻觉问题,并结合昇腾 RAG SDK 的实操演练,指导开发者快速构建企业级智能问答应用,为技术落地产业场景提供有效路径。

" 此前团队主要是调用 API,不熟悉推理部署、调优及底层技术栈构建," 陈劲全表示,通过 " 淬火行动 " 实操培训积累技术经验,团队未来不仅可以快速解决内部项目问题,还能协助客户处理昇腾大模型应用部署难题,推动项目合作。 

02.从 " 黑盒子 " 到可管可优,推动安防 AI 高效落地

深圳市未来清研智能科技有限公司(以下简称 " 未来清研 ")Java 研发工程师林晨,在负责公司特定行业 AI 应用落地时同样面临诸多难题。

深圳市未来清研智能科技有限公司 Java 研发工程师林晨

一方面,客户的需求高度定制化且动态变化,传统研发方式响应慢,需要 AI 驱动的流程化方式提升需求交付效率。另一方面,团队此前使用的开源推理框架难以适应特定生态的硬件系统和相应的技术运维支持,同时,无法把控真实有效的调优过程。

于是 2024 年公司将目光投向了更系统化、更加可控的昇腾技术方案,林晨此番参加昇腾 " 淬火行动 ",正希望进一步借助昇腾生态的系统化培训与技术支持,在模型调优、算法优化、算力挖掘等方面实现进阶,更好地满足安防客户对定制化功能与本地数据安全的诉求。

林晨指出,尤其是 RAG SDK 对本地数据集测试、Milvus 向量库对接的支持,为业务高效落地提供了相关参考," 培训老师认真负责、文档详实,帮助明确了模型调优、框架适配的方向。"

03.从跨架构迁移到端到端实战,提升问题解决效率

深圳市法本信息技术股份有限公司(以下简称 " 法本信息 ")作为一家长期深耕 AI 与信创领域的老牌信息技术服务商,与昇腾合作已久,是昇腾 ISV 大模型应用软件合作伙伴。目前,法本信息已形成阶段性成果——旗下在昇腾 AI 开发者创享日 · 广东站重磅发布的 FarAI GPT 系列一体机,基于昇腾和 DeepSeek 构建企业级 AI 生态架构,内嵌三大核心垂直模型与智能体,覆盖人才获取与管理(智能招聘 GPTRecruit)、知识管理(知识大脑 GPTBrain:银行监管、汽车维修等)、研发效能(辅助编码 GPTCoder)等关键业务场景,可赋能金融、汽车等行业,全面满足企业 AI 时代战略转型需求。 

法本信息新生代算法工程师郑帅在交流中提到,目前团队在昇腾技术应用领域已积累了一定的经验,尤其在跨架构迁移(从英伟达平台到昇腾)、基于昇腾的端到端大模型实战等核心能力上,已通过产品适配与项目实践形成了相关的技术路径。目前个人在昇腾技术的深入应用上也处于持续精进阶段,主要在算子开发等进阶技术领域仍在积累突破,希望通过更多实践与交流进一步提升专业能力。同时他提到,部分客户对自主技术生态的稳定性仍存顾虑,而法本信息基于昇腾在知识问答、金融监管、汽车人员培训和智能招聘等场景落地的经典案例,充分展现了公司在昇腾生态下的 AI 创新实践成果与技术积淀,这些正成为增强客户信心的重要支撑。

深圳市法本信息技术股份有限公司算法工程师郑帅

为此,生态层面的持续支持仍显得尤为关键。昇腾 " 淬火行动 " 恰好回应了这一需求。在培训中,昇腾 AI 技术专家将理论与实战相结合,系统指导开发者完成 MindIE 大模型推理与调试调优,并带领参训者完整实操了 MindSpeed LLM 大模型预训练、微调及后训练的全流程。此外,昇腾 AI 框架布道师还现场演示了 MindSpore 昇思动态图能力及其兼容方案,通过创新的适配层设计,使主流 PyTorch 训练代码能够平滑迁移至昇腾平台,显著降低生态切换成本,保障开发体验的一致性。

郑帅表示:" ‘淬火行动’是我深入昇腾技术体系的重要一步,它帮助我在既有积累的基础上,进一步系统加深了在算子开发等方面的认知,为后续 FarAI GPT 系列一体机等类似产品的迭代与新场景拓展奠定了扎实基础。" 他也期待生态方能提供持续的支持渠道,如专家交流与专项指导,助力个人及团队进一步攻克模型训练加速、算子开发等进阶技术。

04.从模型训推到算子开发,充分发挥昇腾硬件性能

广电运通集团股份有限公司(以下简称 " 广电运通 ")算法研发部的高级算法工程师胡一征博士,也从模型训推、算法优化、算子开发等层面分享了与昇腾生态的交集。

广电运通集团股份有限公司算法研发部高级算法工程师胡一征

他介绍,广电运通团队自 2024 年开始使用昇腾,见证了其大模型生态从初始起步到逐步完善的过程。比如在前期 MindIE 功能不足时,广电运通团队自主编写推理接口,支撑了内外部的大模型落地项目;随着 MindIE 持续迭代,到当年底新版本发布时,团队就转向使用 MindIE 自带接口了。

本次参加昇腾 " 淬火行动 ",胡一征博士表示正是冲着 " 自己不太熟悉 " 的底层算子来的。他高度认可昇腾 CANN 底层开源的价值,认为这样的举措能够降低开发者参与门槛,降低适配成本,并希望昇腾持续完善算子生态,逐步实现与主流框架的全面对齐,进一步降低跨架构开发与迁移的工作量。

活动第三日的培训,也正围绕最底层的 CANN 算子编程能力展开,包括可以帮助开发者打造与硬件架构高度契合的 AscendC 算子开发,以及可实现算子快速开发和跨平台高效迁移的 Triton 算子开发,助力开发者从理论掌握到实操上手,并显著提高开发与迁移的效率。

通过开源和开放的创新模式,胡一征博士期待能够充分发挥昇腾硬件性能,实现 PyTorch 所有算子的支持与精度对齐,最终达成开发者希望看到的 " 一套代码在英伟达与华为算力设备无缝切换 " 的目标。 

写在最后:

毋庸讳言,AI 的行业化落地,既离不开坚实的 AI 技术底座,也离不开繁茂 AI 的应用生态——而贯穿这其中的,正是开发者这一决定性力量!此番广深两地的开发者因昇腾 " 淬火行动 " 而集结,完成从 " 璞玉 " 到 " 利刃 " 的蜕变,料定将带着淬火后的硬核实力,共同为本地乃至全国的 AI 行业落地按下 " 加速键 ",让创新锋芒在这片产业沃土上破开荆棘、一往无前!

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 人工智能 技术总监 广州 科技巨头
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论