摩尔线程宣布完成对Kimi K3.1 Pro的适配,使用MTT S5000与MUSA软件栈,打通了3万亿参数模型的加载以及文本、图片推理。这是国产GPU在大模型部署上的一次标志性进展。 3万亿参数意味着什么 这个量级的模型,单卡根本放不下,必须做多卡分布式推理,涉及张量并行、流水线并行、显存调度。