2024年更新的部分重点大模型产品,其中采用MoE架构的显著增多 原图定位 国内众多厂商更新产品采用 MoE 架构。2024 年 1 月,MiniMax 发布了国内首个基于 MoE 架构的 abab 6,3 月开始更多新发布或者更新的模型公开其采用了MoE架构,至少有包括阶跃星辰、通义千问(Qwen1.5-MoE-A2.7B)、面壁智能(MiniCPM-MoE-8x2B、商汤科技(“日日新 SenseNova 5.0”)、DeepSeek-V2 等,而这些模型在能力水平上也接近或者超过 GPT-4,但在参数量和成本上并未达到很高的水平。