广泛认为，持续扩大数据规模和模型规模可以显著提高模型智能。然而，研究和工业界在有效扩展超大型模型方面经验有限，无论是密集型模型还是混合专家（MoE）模型。关于这一扩展过程的许多关键细节，仅在最近 DeepSeek V3 发布时才公开。同时，我们正在开发 Qwen2.5-Max，这是一个在超过 2000 亿个标记上预训练并进一步通过精心设计的监督微调（SFT）和基于人类反馈的强化学习（RLHF）方法进行后训练的大规模 MoE 模型。今天，我们很高兴分享 Qwen2.5-Max 的性能结果，并宣布其 API 通过阿里云提供。我们还邀请您在 Qwen Chat 上探索 Qwen2.5-Max！

性能

我们评估了 Qwen2.5-Max 与领先模型，无论是专有还是开源，在一系列对社区具有重大意义的基准测试中。这些包括 MMLU-Pro，通过大学水平的问题测试知识，LiveCodeBench，评估编码能力，LiveBench，全面测试一般能力，以及 Arena-Hard，近似人类偏好。我们的发现包括基础模型和指令模型的性能分数。

我们首先直接比较了指令模型的性能，这些模型可用于下游应用，如聊天和编码。我们展示了 Qwen2.5-Max 与领先的最新模型（包括 DeepSeek V3、GPT-4o 和 Claude-3.5-Sonnet）的性能结果。

Qwen2.5-Max 在 Arena-Hard、LiveBench、LiveCodeBench 和 GPQA-Diamond 等基准测试中优于 DeepSeek V3，同时在其他评估中，包括 MMLU-Pro，也展现出具有竞争力的结果。

在比较基础模型时，我们无法访问专有模型，如 GPT-4o 和 Claude-3.5-Sonnet。因此，我们将 Qwen2.5-Max 与 DeepSeek V3（领先的开放权重 MoE 模型）、Llama-3.1-405B（最大的开放权重密集模型）和 Qwen2.5-72B（也是顶级开放权重密集模型之一）进行比较。以下是比较结果。

我们的基础模型在大多数基准测试中表现出显著优势，我们乐观地认为训练后技术的进步将使 Qwen2.5-Max 的下一个版本达到新的高度。

使用 Qwen2.5-Max

现在 Qwen2.5-Max 已在 Qwen Chat 中可用，您可以直接与模型聊天，或玩文物、搜索等。

Qwen2.5-Max（其模型名称为qwen-max-2025-01-25）的 API 可用。您可以先注册一个阿里云账户并激活阿里云模型工作室服务，然后导航到控制台创建 API 密钥。

由于 Qwen 的 API 与 OpenAI-API 兼容，我们可以直接遵循使用 OpenAI API 的通用做法。以下是在 Python 中使用 Qwen2.5-Max 的示例：

from openai import OpenAI
import os

client = OpenAI(
    api_key=os.getenv("API_KEY"),
    base_url="https://dashscope-intl.aliyuncs.com/compatible-mode/v1",
)

completion = client.chat.completions.create(
    model="qwen-max-2025-01-25",
    messages=[
      {'role': 'system', 'content': 'You are a helpful assistant.'},
      {'role': 'user', 'content': 'Which number is larger, 9.11 or 9.8?'}
    ]
)

print(completion.choices[0].message)

未来工作

数据规模和模型大小的扩展不仅展示了模型智能的进步，也反映了我们坚定不移的开拓研究承诺。我们致力于通过创新应用扩展的强化学习来提升大型语言模型的思考和推理能力。这一努力有望使我们的模型超越人类智能，解锁探索知识未知领域的潜力。

引用

请自由引用以下文章，如果您觉得 Qwen2.5 有帮助。

@article{qwen25,
  title={Qwen2.5 technical report},
  author={Qwen Team},
  journal={arXiv preprint arXiv:2412.15115},
  year={2024}
}

近日，通义千问团队正式推出了超大规模的混合专家模型（MoE）——Qwen2.5-Max。该模型在超过20万亿tokens的预训练数据基础上，结合精心设计的后训练方案进行了深度优化。