DeepSeek 第一代推理模型,性能與 OpenAI-o1 相近,包括六個從 DeepSeek-R1 基於 Llama 和 Qwen 蒸餾出的密集模型。

1.5b 7b 8b 14b 32b 70b 671b

25.5M 4 週前

說明文件

DeepSeek 第一代推理模型,在數學、程式碼和推理任務中,效能與 OpenAI-o1 相匹敵。

模型

DeepSeek-R1

ollama run deepseek-r1:671b

蒸餾模型

DeepSeek 團隊已證明,大型模型的推理模式可以被蒸餾到小型模型中,相較於在小型模型上透過強化學習 (RL) 發現的推理模式,能產生更佳的效能。

以下是透過微調,以 DeepSeek-R1 生成的推理資料,對抗研究社群中廣泛使用的多個密集模型所建立的模型。評估結果顯示,蒸餾出的小型密集模型在基準測試中表現極為出色。

DeepSeek-R1-Distill-Qwen-1.5B

ollama run deepseek-r1:1.5b

DeepSeek-R1-Distill-Qwen-7B

ollama run deepseek-r1:7b

DeepSeek-R1-Distill-Llama-8B

ollama run deepseek-r1:8b

DeepSeek-R1-Distill-Qwen-14B

ollama run deepseek-r1:14b

DeepSeek-R1-Distill-Qwen-32B

ollama run deepseek-r1:32b

DeepSeek-R1-Distill-Llama-70B

ollama run deepseek-r1:70b

deepseek

許可證

模型權重以 MIT 許可證授權。DeepSeek-R1 系列支援商業用途,允許任何修改和衍生作品,包括但不限於,為訓練其他 LLM 進行蒸餾。請注意:

Qwen 蒸餾模型源自 Qwen-2.5 系列,該系列最初以 Apache 2.0 許可證授權,現在使用 DeepSeek-R1 精選的 80 萬個樣本進行了微調。

Llama 8B 蒸餾模型源自 Llama3.1-8B-Base,最初以 llama3.1 許可證授權。

Llama 70B 蒸餾模型源自 Llama3.3-70B-Instruct,最初以 llama3.3 許可證授權。