钛媒体 App 9 月 11 日,中科曙光近日发布 scaleFabric Token 加速技术体系。该体系以原生无损 RDMA 高速网络为核心,构建 " 算存传 " 三级紧耦合的 Token 加速通道,并推动 IBGDA 技术在国内首次实现规模化应用。IBGDA 主要面向 MoE 模型中的高频小消息通信。传统模式下,通信任务的发起及相关处理仍需 CPU 参与;IBGDA 支持 GPU 直接发起和管理网卡通信,可消除传统路径中 CPU 调度带来的开销。目前,scaleFabric 已完成 DeepEP 等通信框架适配,IBGDA 可作用于 MoE 模型的专家并行通信,提升 Token 在不同专家之间的分发与汇聚效率。(广角观察)


登录后才可以发布评论哦
打开小程序可以发布评论哦