中软国际智算中心成功完成华为EP方案验证，实现大模型推理性能显著提升
在大模型迈向规?；τ玫男陆锥危评硇阅艹晌龆ˋI落地成败的关键因素。中软国际智算中心积极响应国产智算体系建设战略，率先完成华为昇腾“大规模专家并行”（EP）推理方案验证，在DeepSeek-R1模型推理任务中实现3倍单卡吞吐性能提升，树立国产高效推理的新标杆。
大规模专家并行推理（Large-Scale Expert Parallel Inference）是一项面向混合专家（MoE）架构大模型的高效推理技术，能够将模型内部多个“专家”子网络部署至不同AI卡，借助并行计算与智能路由机制，实现高吞吐、低延迟的模型推理能力。
中软国际智算中心联合昇腾团队，围绕高并发推理和低延迟响应的关键诉求，进行了深度适配与系统级优化，充分释放昇腾AI芯片的专家并行能力，实现资源利用率与推理性能的双重突破，完成以下三大核心技术挑战的突破：
通信开销瓶颈： 通过专家亲和部署策略，减少跨卡高频通信，显著降低等待时间； 专家负载失衡： 结合智能任务调度算法，动态实现负载均衡，避免“明星专家”过载； 系统协同复杂： 搭建模块化调度与容错机制，支撑大规模专家系统稳定高效运行。 性能提升+多行业场景适配 技术业务创新、打造高性价比AI推理新模式 为充分释放EP架构的潜力，项目团队在系统架构与算子执行层面引入多项关键优化手段，释放推理潜能。 推理优化： 大规模专家并行+PD分离，64大规模专家并行，3倍单卡吞吐性能提升 并行优化： 多专家动态均衡专家热点均衡、亲和部署，资源利用率提升20% 通信优化： AI to AI 低时延通信多算力协同、双流通信掩盖，整网性能提升100% 算子优化： PA + MLAPO 融合算子Vector和Cube计算并行，计算耗时降低70%
本次EP方案验证完成后，中软国际智算中心已具备基于昇腾平台提供高效推理服务的能力，可适配多行业场景，打造高性价比AI推理新模式。在互联网与内容行业：面向智能客服、短视频生成、AI搜索推荐等高并发场景，具备极强支撑能力；在金融、政企行业：支持私有化部署与国产化软硬件组合，推理性能不降反升，AI卡投入节省达40%；在科研、教育领域：可作为模型调试、算法验证的高性能推理平台，提升研发效率与响应速度。通过EP推理方案，显存资源占用显著下降，用户请求并发能力提升，同时硬件成本降低超过50%，大幅缩短AI部署ROI回收周期。
基于EP验证成果 智算中心AI服务更快、更省、更强 更快： 卓越算力加速提升响应能力。中软国际智算中心的昇腾算力租赁与AI推理云服务，依托华为EP方案的高效并行策略，实现分钟级开通和高并发推理，显著提升算力响应速度。 更?。?/span> 高效资源节约显著降低成本。通过华为EP方案加速后，单卡并发量提升，Tokens输出和算力利用率更高，结合按量计费，大幅降低企业自建AI集群成本。 更强： 推理性能全面提升能力更强。中软国际智算中心支持高效Expert Parallelism并行策略与主流大模型适配，显著提升推理准确率和复杂AI任务性能。 同时，提供基于EP的创新技术赋能服务，包括EP推理系统从零部署、环境搭建、任务调度、容错优化等全过程的实施与培训服务，帮助客户培养自己的推理系统运维与调度团队，打造自主可控的AI基础设施能力。 中软国际智算中心成功实现华为EP方案，不仅是技术上的重大突破，也是和昇腾合作共赢的典范。我们将持续以稳定、高效、开放的智算服务，为更多企业提供更低成本、更高性能的推理解决方案，携手昇腾，共建国产AI智能推理新范式。
