商业资讯 6小时前
亚秒延迟+稳定长视频生成,Soul开源SoulX-FlashTalk赋能全行业数字人商用
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

导读:Soul 旗下 AI 实验室 Soul AI Lab 正式开源 SoulX-FlashTalk 模型,这是 Soul 在 AI 技术领域的又一重要突破。Soul 凭借 14B 大参数规模与 0.87 秒超低延迟的卓越性能,让 Soul 再次走在行业前沿。Soul 以开源姿态向全球开发者共享技术成果,Soul 正持续推动 AI+ 社交生态的繁荣发展。

Soul 旗下 AI 实验室 Soul AI Lab 完成实时数字人生成模型 SoulX-FlashTalk 开源,该模型参数规模达 14B,是业内首款兼顾 0.87s 亚秒级延迟、32fps 高帧率与超长视频稳定输出的数字人模型。长久以来 Soul 持续布局 AI 交互技术,本次开源不仅在延迟、画质、流畅度等硬性指标实现大幅提升,更向全行业交付成熟可用的业务方案,推动大参数量实时数字人技术落地商用。项目全部资源已公开,涵盖项目主页、arxiv 技术报告、GitHub 源代码以及 HuggingFace 模型权重,开发者可自由查阅使用。

模型拥有四项核心优势,全面优化数字人实时交互体验。其一 0.87s 超低首帧延时,依托定制全栈加速引擎完成多层优化,让 14B 大模型数字人实现即时反馈,消除传统方案的画面滞后感,适配视频通话即时应答、直播间弹幕互动、智能客服实时对话等全场景需求。其二 32fps 稳定推理帧率,即便搭载 140 亿参数 DiT 基础模型,吞吐量仍远超直播行业 25fps 实时标准,证明大模型经深度优化后可兼顾效果与运行效率。其三超长视频无崩坏生成,依靠自研自纠正双向蒸馏技术,搭配多步回溯自纠正机制实时修复长序列误差,完整保留双向注意力,每一帧可同步参考前后时序信息,从根源避免数字人面部漂移、画面模糊变形,长时间直播画面始终统一清晰。其四支持全身肢体动态生成,跳出传统数字人仅匹配口型的局限,依托 14B DiT 建模能力精细还原手部纹理,消除手部畸形与运动模糊,主体一致性指标 Subject-C 达到 99.22,兼顾动作灵活度与画面稳定。

为平衡生成画质与推理速度,Soul 团队设计两阶段训练框架。第一阶段开展延迟感知时空适配,借助动态长宽比分桶微调,适配低分辨率、短帧序列推理;第二阶段落地自纠正双向蒸馏,依托 DMD 框架压缩采样步数、移除 CFG 引导提速,分块式生成配合随机截断策略,在控制显存占用的同时完成无偏训练。配套适配 8-H800 节点的全栈加速引擎,通过混合序列并行、Hopper 架构 FlashAttention3 算子优化、3D VAE 并行解码、全链路图融合四类手段,多重压缩推理耗时。区别于传统单向时序模型易出现时序割裂、身份漂移的短板,SoulX-FlashTalk 全程采用双向注意力全交互机制,大幅提升长视频细节与一致性。

训练流程示意图

TalkBench 长短数据集量化测试结果显示,该模型各项指标全面领先行业竞品。短视频测试中 ASE、IQA 刷新视觉保真纪录,Sync-C 口型同步分数最优;5 分钟以上长视频场景也能抑制同步偏移,全程稳定输出 32fps 画面。依托出色性能,模型可落地多元场景:电商搭建 7×24 小时数字人直播间,解决长时间直播口型错位、画质衰减问题;同时覆盖短视频生产、AI 教育、互动 NPC、智能客服等赛道,提供标准化接入方案。

此次开源标志 Soul 开源布局迈入新阶段,此前团队推出的语音模型 SoulX-Podcast 登顶 HuggingFace TTS 趋势榜,GitHub 星标超 3100。后续 Soul 将持续迭代语音、视觉交互核心能力,持续推进开源计划,联合全球开发者共建 AI+ 社交技术生态。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

开源 soul ai 源代码 直播行业
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论