国家知识产权局信息显示,国电南瑞南京控制系统有限公司 ; 南京南瑞瑞腾科技有限责任公司申请一项名为 " 一种用于异构算力云的大模型高性能推理调度方法及系统 " 的专利,公开号 CN121957875A,申请日期为 2025 年 12 月。
专利摘要显示,本发明公开了一种用于异构算力云的大模型高性能推理调度方法及系统,方法包括:基于 3D 解耦推理架构,通过编解码任务分离、异构副本并行和同构张量并行的协同优化,实现大模型推理流程的高效部署;采用采样投影初始化算法精准确定各子任务的算力资源需求;运用指标优先负载均衡算法实现请求的智能分发;实施指标资源联合寻优算法动态调整子任务内的副本规模;系统包括:资源编排模块,算力分配模块,弹性调度模块,请求分发模块。本发明从任务层面有效解决了异构算力云中的推理不兼容与性能波动问题,提高资源利用率和推理性能,适用于需要多源大模型灵活部署的高并发、低延迟场景。
天眼查资料显示,国电南瑞南京控制系统有限公司,成立于 1993 年,位于南京市,是一家以从事专业技术服务业为主的企业。企业注册资本 150000 万人民币。通过天眼查大数据分析,国电南瑞南京控制系统有限公司共对外投资了 1 家企业,参与招投标项目 20483 次,专利信息 3325 条,此外企业还拥有行政许可 12 个。
南京南瑞瑞腾科技有限责任公司,成立于 2023 年,位于南京市,是一家以从事计算机、通信和其他电子设备制造业为主的企业。企业注册资本 9000 万人民币。通过天眼查大数据分析,南京南瑞瑞腾科技有限责任公司参与招投标项目 299 次,专利信息 26 条,此外企业还拥有行政许可 3 个。
声明:市场有风险,投资需谨慎。本文为 AI 基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员


登录后才可以发布评论哦
打开小程序可以发布评论哦