标签:MoE架构

腾讯混元Hy4 flash把推理成本打到5%,价格战进入下半场

腾讯混元Hy4 flash把推理成本打到5%,价格战进入下半场

腾讯发布混元Hy4 flash,总参数2240亿,激活参数120亿。官方称,新模型在多项任务上略优于更大的Hy4预览版,单任务成本仅为Hy4的5%,首日token调用量超过50万亿,登上OpenRouter日榜第一。 稀疏模型是什么 Hy4 flash采用MoE架构,每次推理只激活一部分参数。总参

自由的编辑者 自由的编辑者 2026-11-22
0 0 0
百度开源ERNIE 5.5 Flash Base:2800亿参数的性价比路线

百度开源ERNIE 5.5 Flash Base:2800亿参数的性价比路线

百度11月5日开源ERNIE 5.5 Flash Base,采用MoE架构,总参数2800亿、每个Token激活140亿,预训练使用33.5万亿Token。模型支持最高100万Token上下文,并在知识、推理、数学、代码等基准上取得同尺寸SOTA。 MoE的核心是激活参数 总参数2800亿听起来很

自由的编辑者 自由的编辑者 2026-11-06
0 0 0