国产算力·昇腾 910C 大模型推理优化(上):镜像更新与参数调优,提速 40%|得物技术
出处:
mp.weixin.qq.com
本文系统性地总结了我们以华为昇腾 910C 为国产算力底座,在大模型在线推理场景下完成国产化适配与性能优化工作。项目从建立 Qwen3.5-35B-A3B 在 910C 上的性能基线出发,通过 MindStudio 进行性能剖析定位瓶颈,按照「镜像与版本升级 → 参数与环境变量调优 → vllm-ascend 源码修改 → 算子层融合优化 → MTP 投机解码」五个层次逐层推进,累计落地 20 余项有效优化。
查看原文
3
技术
lddgo
分享于
2026-10-21