智东西 03-05
从手机PC到汽车AIoT,DeepSeek卷爆端侧AI
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

作者 | 云鹏

编辑 | 漠影

DeepSeek 的出现可以说引爆了整个科技产业,在科技赛道的各个领域掀起波澜。

成本更低、性能更高、规模更小," 不可能三角 " 被彻底打破。这样的表现可以说颠覆了 AI 大模型行业的传统认知。随之而来的,是各行各业迅速接入 DeepSeek,由 DeepSeek 蒸馏而来的各类小模型也开始在端侧设备中广泛落地。

Meta 首席 AI 科学家杨立昆就提到过,蒸馏技术可以让模型快速应用到产品中,这也是开源的优势所在,每个人都能从技术进步中获益。

模型训练成本不断下降、边缘 AI 推理变得越来越普遍,单纯以比拼模型规模为核心的竞争已经成为过去式,根据权威市研机构 Epoch AI 数据,2024 年 AI 大模型中 75% 以上规模都在千亿参数以下。

▲每年发布的大规模 AI 模型数量(按参数量分类),来源:Epoch AI,2025 年 1 月

如今行业聚焦的是如何在边缘和端侧高效地落地 AI、如何在实际的生产中去部署 AI,进而带来实质性的效益提升。高质量的小规模模型愈发受到热捧。

与此同时,端侧 AI 的加速发展,也带动着相关芯片的规模化扩展,芯片需求显著增长。端侧 AI 低时延、高实时性、高隐私性、高安全性,可以更好地实现本地个性化 AI 体验的诸多优势特性都愈发凸显。

在这样的产业背景下,移动芯片巨头高通公司俨然已成为加速端侧 AI 发展的核心推手,从硬件、软件到生态,高通技术生态版图正加速扩展。

高通是行业内最早一批聚焦端侧 AI、强调端侧 AI 重要性的厂商,其很早就提出了混合 AI 架构。近期,作为端侧 AI 核心玩家的高通发布了最新 AI 白皮书,深入分析了 AI 大模型的激增和演进如何给 AI 格局带来改变并释放新的价值。

与此同时,高通在今年的 MWC 上亮出一系列端侧 AI 相关产品,与荣耀、小米、OPPO 等国内头部手机厂商合作展示了不少亮眼的端侧 AI 技术和 AI 智能体新应用。

▲高通 MWC 展台

可以说,随着高通 AI 产品技术生态在手机、PC、汽车、工业 IoT、网络等终端和边缘加速赋能、广泛落地,高通已成为后 DeepSeek 时代 AI 产业的核心变量。

一、" 小模型 " 爆发大能量,智能硬件端侧 AI 或迎井喷

今天,在 AI 技术快速迭代发展之下,AI 产业格局正迎来转变。AI 模型的训练方式正在发生颠覆性变革,大规模推理浪潮来势汹汹,新的边缘侧推理计算创新和升级周期已经到来。

基于蒸馏和一系列优化技术而生的更小型、更高效的模型正在快速落地行业,并加速在终端侧的规模化集成。

从手机、PC、智能穿戴、智能家居到汽车,端侧和边缘运行的 AI 模型在质量、性能和效率方面都有显著提升。

终端侧可以运行越来越多高质量的 AI 模型、高质量小语言模型和多模态推理模型数量激增,随之而来的是越来越多 AI 应用和用例的涌现。

与此同时,AI 也在重新定义终端的用户界面,AI 正在成为终端侧新的 UI。诸多手机、PC 巨头都已经发布 AI OS 相关技术,AI 深度融入的操作系统成为终端行业的关键技术发展方向之一。

而实现这一切,加速端侧 AI 落地,离不开底层一系列模型优化相关技术的支撑。

比如蒸馏(Distillation)技术能让大模型 " 教学 " 小模型,在保持准确性的同时迁移知识,这也催生了诸多面向垂直行业特定领域调优的专用小模型。

基于这样的技术,DeepSeek 作为教师模型,已经帮助不少 " 学生 " 模型在性能表现上得到显著提升。

此外,量化、压缩和剪枝等模型优化技术,同样有助于缩小模型规模,尤其是有助于降低运行模型的功耗,算力、功耗的节省对于端侧 AI 的发展可以说是关键因素之一。

得益于这些技术,小模型的实际表现已经逐渐接近前沿大模型。

比如使用 DeepSeek 蒸馏后的 Qwen-7B 模型,已经能够在性能上与去年推出的 GPT-4o 云端模型持平,而蒸馏后的 Llama 700 亿模型在推理、编程、数学、数据分析等多方面的表现都已经超越了原始模型。

▲ Meta Llama 700 亿参数模型和 DeepSeek 对应蒸馏模型的 LiveBench AI 基准测试平均结果对比

在一系列技术的加持下,大型基础模型缩减为更小、更高效的版本,具备更快的推理速度、更少的内存占用和更低的功耗,这无疑显著加速了 AI 模型在智能手机、PC 和汽车等智能终端上的部署落地,大幅降低了设备的算力门槛。

二、提前押宝端侧 AI 领跑行业,从硬件、软件到生态全链路布局

在这样的行业趋势下,高通已经走到了端侧 AI 落地核心推手的位置。从 ChatGPT 火爆之初,高通就已经开始重点聚焦端侧 AI,并在诸多产品和技术发布中强调端侧 AI 的优势。

近年,高通连续发布 AI 技术白皮书,其提出的混合 AI 架构点明了端云结合将是未来行业发展到主流趋势,而端侧 AI 是高通作为全球移动芯片技术生态巨头所核心专注的领域。

如今DeepSeek 的火爆,恰恰验证了高通对 AI 发展的趋势判断,端侧 AI 的未来已经十分明确。

从 NPU 的持续迭代、硬件和算法层面的创新到对大模型的深度优化适配,高通在端侧 AI 领域有着长期深耕,其产品、技术和解决方案布局涵盖了数十亿台智 能手机、汽车、XR 头显和眼镜、PC 以及工业物联网终端,这是高通的核心优势所在。

底层芯片方面,高通在 CPU、NPU、GPU 和低功耗子系统领域已经陆续发布了诸多产品,尤其在系统级芯片(SoC)产品领域有着扎实的基础。

芯片的高性能、高能效、低功耗特性可以说是端侧设备能够高效处理复杂 AI 任务,同时兼顾续航、能效的根本保障。

打好硬件基础后,高通进一步构建了AI 软件栈来赋能开发者,让各类智能终端更高效地得到硬件加速,进而提升端侧 AI 体验。

简单来说,高通 AI 软件栈包括库、SDK 和优化工具,可简化模型部署并提升性能、缩短 AI 应用开发的时间。

此外,高通还在与全球 AI 模型厂商积极合作、提供高通 AI Hub等服务,推动终端侧 AI 应用的开发和规模化扩展。在高通 AI Hub 上,开发者只需要简单的三步就可以基于大模型开发 AI 应用并最终完成商业化部署。

最近,高通正式宣布 IBM watsonx.governance 和 Granite LLM 大语言模型可以在搭载骁龙 8 至尊版的终端以及搭载高通跃龙 AI 的本地设备上运行。同时高通 Cloud AI 系列推理加速器已通过 OpenShift 认证,支持 IBM 的软件应用程序套件在高通 Cloud AI 平台进行部署。

可以说,从硬件、软件到生态,高通端侧 AI 优势凸显,高通毫无疑问已经成为后 DeepSeek AI 推理时代的领跑者之一。

三、从手机、PC、汽车到工业 IoT,高通端侧 AI 生态无处不在

基于端侧 AI 领域过硬的产品性能、完善的软件生态,高通正在多个赛道赋能行业,与厂商一起实现用户体验的革新,进而释放新的商业价值。

比如在 PC 领域,我们能看到基于骁龙 X 系列平台的笔记本电脑产品支持了诸多 Windows 11 AI+ PC 新特性,生成式 AI 推理真正落地在了端侧,实现了本地运行。

剪映、达芬奇、Zoom 等各类流行三方应用都可以基于高通骁龙 X 平台,本地化实现一些特定的 AI 功能。

在智能手机领域,三星、华硕、小米、OPPO、vivo 和荣耀等头部厂商的最新旗舰智能手机均搭载了最新骁龙旗舰移动芯片平台。

就在最近火爆科技圈的世界移动通信大会(MWC)上,高通亮出了一系列端侧 AI 新进展,这些产品和技术也令人感受到端侧 AI 加速发展带来的巨大变革潜力。

现场我们能看到多种先进多模态生成式模型和智能体 AI 在智能手机上原生运行,AI 助手能在不同沟通模式间切换,并生成多模态输出。

▲ AI 助手多模态交互

与此同时,AI 与系统的深度融合,也让手机在通信、图像编辑、个性化和无障碍方面有了进一步提升。比如高通最新发布的 X85 5G 调制解调器及射频就内置搭载了第四代专用 AI 处理器,AI 在信号增强方面作用显著。

随着 AI 与系统的融合加深,AI 已逐渐成为智能设备新的 UI,通过自然语言和基于图像、视频与手势的交互,极大简化了我们与智能设备交互、使用应用、享受服务的方式。

值得一提的是,在当下最为火爆的 AI 眼镜领域,我们看到搭载高通芯片的智能手机可以与 TCL 雷鸟的智能眼镜连接,AI 眼镜会根据眼前的健身器械来给用户推荐具体的健身方式,AI 提供的建议和回复都是个性化的。

▲ AI 健身建议

此外,在汽车领域,高通骁龙数字底盘已经使用端侧 AI 来增强汽车安全和驾驶体验,而对于工业物联网和企业应用,高通推出了 AI 本地设备解决案和 AI 推理套件,增强隐私性、可控性,提高能效并降低时延。

可以看到,从手机、PC、汽车到工业物联网及网络,终端和边缘侧 AI 推理正在快速落地、智能体等 AI 应用快速普应用,AI 正加速融入我们生活的方方面面。在后 DeepSeek 时代,高通端侧 AI 技术和产品对智能终端行业赋能起着关键作用。

结语:端侧 AI 激变,高通已跑在前面

在端侧 AI 高速发展的今天,高通的高能效芯片、AI 软件栈和各类开发层面的技术支持,都让高通成为端侧 AI 变革中的领跑者,有其独有优势。从手机、PC、汽车到工业 IoT,从 CPU、GPU 到 NPU,从硬件软件到生态,高通正用 AI 全家桶帮行业武装到牙齿。

展望未来,AI 在边缘侧和端侧的爆发仍将继续,各领域与 AI 的融合必将进一步加深,各类智能终端对芯片层的需求仍将继续提高,高通端侧 AI 无疑将成为智能终端行业变革的关键技术底座。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 高通 芯片 mwc oppo
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论