阿里发布下一代基础模型架构Qwen3-Next

超人 2026-06-23 38 0

扫一扫用手机浏览

文章目录 [+]

9月12日,阿里发布了下一代基础模型架构 Qwen3-Next,并开源了基于该架构的Qwen3-Next-80B-A3B系列模型。

该结构相比Qwen3的MoE模型结构,进行了以下核心改进:混合注意力机制、高稀疏度MoE结构、一系列训练稳定友好的优化,以及提升推理效率的多token预测机制。

你可能想看:

相关文章

疑似被攻击!快手深夜关停直播频道

12月23日消息,深夜,快手疑似遭遇攻击,多个直播间出现特殊情况。 鞭牛士发现,目前快手直播频道已关闭。 此前,为应对此事...

AI智能 2026-06-23 61 0