deepseek v3

deepseek v3官网,本地部署,下载,api,参数规模达6710亿，性能媲美闭源巨头的开源大模型

简介

DeepSeek-V3作为新一代大规模语言模型的代表，凭借其创新的架构设计和高效的训练策略，在人工智能领域树立了新的标杆。该模型采用混合专家（MoE）架构，拥有6710亿参数，其中每个token激活370亿参数，在保持卓越性能的同时实现了显著的计算效率提升。

1月27日，DeepSeek应用登顶苹果美国地区应用商店免费App下载排行榜，在美区下载榜上超越了ChatGPT。同日，苹果中国区应用商店免费榜显示，DeepSeek成为中国区第一。把开源模型做到全球第一，和公司团队开发大模型“DeepSeek-V3”的科技创业者是来自广东湛江的梁文锋。

模型 & 价格

下表所列模型价格以“百万 tokens”为单位。Token 是模型用来表示自然语言文本的的最小单位，可以是一个词、一个数字或一个标点符号等。我们将根据模型输入和输出的总 token 数进行计量计费。

模型 & 价格细节​

1. deepseek-chat 模型已经升级为 DeepSeek-V3；deepseek-reasoner 模型为新模型 DeepSeek-R1。
2. 思维链为deepseek-reasoner模型在给出正式回答之前的思考过程，其原理详见推理模型。
3. 如未指定 max_tokens，默认最大输出长度为 4K。请调整 max_tokens 以支持更长的输出。
4. 关于上下文缓存的细节，请参考DeepSeek 硬盘缓存。
5. 表格中展示了优惠前与优惠后的价格。即日起至北京时间 2025-02-08 24:00，所有用户均可享受 DeepSeek-V3 API 的价格优惠。 在此之后，模型价格将恢复至原价。DeepSeek-R1不参与优惠。
6. deepseek-reasoner的输出 token 数包含了思维链和最终答案的所有 token，其计价相同。

扣费规则​

扣减费用 = token 消耗量 × 模型单价，对应的费用将直接从充值余额或赠送余额中进行扣减。 当充值余额与赠送余额同时存在时，优先扣减赠送余额。

产品价格可能发生变动，DeepSeek 保留修改价格的权利。请您依据实际用量按需充值，定期查看此页面以获知最新价格信息。

首次调用 API

DeepSeek API 使用与 OpenAI 兼容的 API 格式，通过修改配置，您可以使用 OpenAI SDK 来访问 DeepSeek API，或使用与 OpenAI API 兼容的软件。

调用对话 API​

在创建 API key 之后，你可以使用以下样例脚本的来访问 DeepSeek API。样例为非流式输出，您可以将 stream 设置为 true 来使用流式输出。

curl

curl https://api.deepseek.com/chat/completions \
-H “Content-Type: application/json” \
-H “Authorization: Bearer <DeepSeek API Key>” \
-d ‘{
“model”: “deepseek-chat”,
“messages”: [
{“role”: “system”, “content”: “You are a helpful assistant.”},
{“role”: “user”, “content”: “Hello!”}
],
“stream”: false
}’

python

# Please install OpenAI SDK first: `pip3 install openai`

from openai import OpenAI

client = OpenAI(api_key=”<DeepSeek API Key>”, base_url=”https://api.deepseek.com”)

response = client.chat.completions.create(
model=”deepseek-chat”,
messages=[
{“role”: “system”, “content”: “You are a helpful assistant”},
{“role”: “user”, “content”: “Hello”},
],
stream=False
)

print(response.choices[0].message.content)

nodejs

// Please install OpenAI SDK first: `npm install openai`

import OpenAI from “openai”;

const openai = new OpenAI({
baseURL: ‘https://api.deepseek.com’,
apiKey: ‘<DeepSeek API Key>’
});

async function main() {
const completion = await openai.chat.completions.create({
messages: [{ role: “system”, content: “You are a helpful assistant.” }],
model: “deepseek-chat”,
});

console.log(completion.choices[0].message.content);
}

main();

DeepSeek V3 测评

DeepSeek-V3：革新性混合专家模型的开源典范

核心技术突破

DeepSeek-V3在DeepSeek-V2的基础上进行了多项创新性改进：

1. 架构优化

– 采用经过验证的多头潜在注意力机制（MLA）
– 优化DeepSeekMoE架构，提升模型表达能力
– 创新性地提出无辅助损失负载均衡策略，有效降低性能损耗

2. 训练效率提升

– 开发FP8混合精度训练框架，首次在大规模模型上验证其可行性
– 实现算法-框架-硬件的协同优化，突破跨节点MoE训练通信瓶颈
– 达到计算与通信的近乎完全重叠，显著提升训练效率

3. 性能增强

– 引入多token预测（MTP）训练目标，提升模型推理能力
– 采用创新的知识蒸馏技术，将DeepSeek R1系列的推理能力迁移至DeepSeek-V3
– 整合验证和反思机制，显著增强模型推理性能

卓越的训练效能

DeepSeek-V3展现了前所未有的训练效率：
– 仅需278.8万H800 GPU小时完成完整训练
– 预训练阶段消耗266.4万H800 GPU小时，处理14.8万亿tokens
– 后续训练仅需0.1万GPU小时
– 训练过程稳定，全程无不可恢复的损失峰值或回滚

性能表现

DeepSeek-V3在多个基准测试中展现出卓越性能：
– 数学推理：GSM8K、MATH等基准测试领先
– 代码生成：HumanEval等测试表现优异
– 综合能力：MMLU、BIG-bench hard等评估中表现突出
– 多语言理解：在英文、中文及多语言任务中均取得优异成绩

部署与应用

DeepSeek-V3提供灵活的部署方案：
– 支持Hugging Face模型权重下载
– 提供多种本地运行方案：
* DeepSeek-Infer Demo
* SGLang
* LMDeploy
* TensorRT-LLM
* vLLM
– 兼容多种硬件平台：
* AMD GPU
* 华为昇腾NPU

行业影响与贡献

DeepSeek-V3的开源具有重要战略意义：
– 为AI社区提供了强大的基础模型
– 推动了大规模语言模型技术的发展
– 降低了先进AI技术的应用门槛
– 促进了产学研各界的协作创新

结语

DeepSeek-V3凭借其创新的架构设计、高效的训练策略和卓越的性能表现，不仅超越了现有开源模型，更达到了与领先闭源模型相当的水平。这一突破性成果不仅展现了DeepSeek团队的技术实力，更为人工智能领域的发展注入了新的活力。通过开源共享，DeepSeek-V3将为更广泛的研究和应用提供坚实基础，推动AI技术向着更高效、更智能的方向持续演进。