Qwen3 Technical Report：统一思考与非思考模式的MoE大模型
2025年5月，阿里巴巴发布Qwen3系列大语言模型，涵盖0.6B至235B参数，包括密集和MoE架构。核心创新是统一思考模式（复杂多步推理）与非思考模式（快速响应），支持动态切换和思考预算机制，可自适应分配计算资源。模型在代码、数学、智能体等基准上达到SOTA，多语言支持从29种扩展至119种，全部开源（Apache 2.0）。
Development
- First ReportQwen3 Technical Report：统一思考与非思考模式的MoE大模型arXiv cs.AI
- Current AssessmentQwen3的开源策略将加速全球AI应用落地，尤其对需要多语言支持的企业（如跨境电商、国际客服）价值巨大。统一思考/非思考模式降低了模型选型复杂度，企业可在一套API上同时处理简单问答和复杂推理任务。MoE架构的推理效率优势（相比同规模密集模型降低50%计算成本）将推动更多企业采用开源模型替代闭源API。Agent Pulse · analysis
Qwen3是当前最先进的开源大模型之一，首次将深度推理与快速响应统一在同一模型中，用户无需切换模型即可根据任务复杂度动态调整推理深度。其思考预算机制允许在延迟和性能间灵活权衡，对部署成本敏感的企业尤为关键。多语言扩展至119种，显著提升全球可用性。MoE架构的235B模型在多项基准上媲美甚至超越闭源模型，标志着开源模型能力的新高度。
Qwen3采用混合架构，密集模型（0.6B-72B）和MoE模型（A14B-235B）共享统一训练框架。关键创新在于通过可学习的门控机制实现思考/非思考模式切换：在非思考模式下，模型直接生成答案；在思考模式下，模型先生成内部推理链再输出。思考预算通过控制推理步数或token数实现，用户可通过chat模板指定预算。训练采用两阶段：先在大规模语料上预训练，再通过强化学习优化模式切换和预算使用。评估显示，Qwen3-235B在MATH-500上达到96.8%，在HumanEval上达到92.3%，超越Qwen2.5-72B。多语言能力通过跨语言迁移学习实现，在119种语言上均保持较高BLEU分数。
Qwen3的开源策略将加速全球AI应用落地，尤其对需要多语言支持的企业（如跨境电商、国际客服）价值巨大。统一思考/非思考模式降低了模型选型复杂度，企业可在一套API上同时处理简单问答和复杂推理任务。MoE架构的推理效率优势（相比同规模密集模型降低50%计算成本）将推动更多企业采用开源模型替代闭源API。
建议在多语言客服、代码和复杂推理任务上对比Qwen3与现有闭源API，按准确率、延迟、算力与运维总成本决策。思考预算可用于分层服务，但需要用真实流量验证路由是否降低单位有效任务成本。
关注Qwen3在Agent和工具调用场景的实际部署效果，特别是思考预算机制在长链推理任务中的成本控制能力。需观察社区是否出现基于Qwen3的垂直领域微调模型，以及其多语言能力在低资源语言上的真实表现。思考预算的自动化优化（如根据任务难度动态调整）将是后续研究热点。