摩尔线程实现Kimi-K3.1 Pro Day-0适配，3万亿模型在国产芯片跑通
11月4日，月之暗面团队正式开放Kimi K3.1 Pro的完整模型权重。这款模型在Arena运营的Agent Arena排行榜中表现亮眼，不仅位列开放权重模型首位，在整体参评模型中也跻身第13名，并在办公、编程及聊天等细分领域保持开放模型第一的位置。
摩尔线程近日对外确认，其技术团队已基于AI训推一体智算卡MTT S5000，利用MUSA软件栈完成了对Kimi-K3.1 Pro的Day-0适配。此次适配打通了从模型加载、服务启动，到文本与图片基础推理的全链路，确保了新模型能在国产芯片上稳定运行。
Kimi K3.1 Pro作为K3.1系列的首款产品，被定位为迄今能力最强的3万亿级参数模型，支持100万token的超长上下文。经过大规模后训练与强化学习，该模型在代码生成、3D创作、金融研究及长程Agent任务等场景的能力得到显著增强，相关基准测试成绩已逼近顶尖闭源模型水平。
在具体的性能指标上，该模型在Terminal-Bench 4.0测试中取得了65.7%的得分，Kimi Code Bench 3.0 Long-horizon得分达到61.2%，明显高于上一代K3模型的55.95%。这些数据表明，其在复杂任务处理与长序列推理方面具备较高的实用价值。
摩尔线程技术负责人指出，针对Kimi K3.1 Pro的架构特性，团队通过MUSA软件栈实现了关键推理路径的迁移。MUSA在编程模型、运行时接口及AI框架层面具备高兼容性，使得新模型能够快速接入现有生态，减少了底层代码的重复开发成本。
在实现细节上，团队依托SGLang-MUSA承接上游实现，并结合MATE算子库、Triton-MUSA及MTCC编译器，完成了新架构计算路径的转换。MUSA软件栈覆盖了框架执行、算子编译、设备运行及多卡通信等环节，既复用了成熟接口，又对新增计算路径进行了针对性优化。
针对模型中的稀疏注意力DSA技术，MUSA软件栈完成了索引选择、KV缓存布局以及Prefill与Decode阶段的适配，并接入MATE稀疏注意力算子。这套机制与KDA状态管理、跨层残差及视觉Attention共同构成了完整的执行链路，提升了推理效率。
此外，面对模型采用的MXFP4专家权重，技术团队通过在线转换机制，并跨层复用FP8工作区来执行专家计算。这种方式无需预先生成完整的离线FP8权重，大幅降低了部署门槛，为超大参数模型在国产硬件上的快速落地提供了技术支撑。
