DeepSeek 的第一代推理模型,其效能可與 OpenAI-o1 相提並論,包括六個從 DeepSeek-R1 提煉出的密集模型,這些模型基於 Llama 和 Qwen。

1.5b 7b 8b 14b 32b 70b 671b

7.7M 13 days ago

Readme

DeepSeek 的第一代推理模型,在數學、程式碼和推理任務方面,效能可與 OpenAI-o1 相提並論。

模型

DeepSeek-R1

ollama run deepseek-r1:671b

精餾模型

DeepSeek 團隊已證明,較大型模型的推理模式可以精餾到較小型的模型中,相較於透過小型模型上的 RL 發現的推理模式,這樣能產生更佳的效能。

以下是透過針對研究社群中廣泛使用的幾種密集模型進行微調而建立的模型,使用的推理資料由 DeepSeek-R1 產生。評估結果表明,精餾後較小型的密集模型在基準測試中表現非常出色。

DeepSeek-R1-Distill-Qwen-1.5B

ollama run deepseek-r1:1.5b

DeepSeek-R1-Distill-Qwen-7B

ollama run deepseek-r1:7b

DeepSeek-R1-Distill-Llama-8B

ollama run deepseek-r1:8b

DeepSeek-R1-Distill-Qwen-14B

ollama run deepseek-r1:14b

DeepSeek-R1-Distill-Qwen-32B

ollama run deepseek-r1:32b

DeepSeek-R1-Distill-Llama-70B

ollama run deepseek-r1:70b

deepseek

授權條款

模型權重根據 MIT 授權條款授權。DeepSeek-R1 系列支援商業用途,允許任何修改和衍生作品,包括但不限於,為了訓練其他 LLM 而進行的精餾。請注意,

Qwen 精餾模型衍生自 Qwen-2.5 系列,該系列最初根據 Apache 2.0 授權條款授權,現在使用由 DeepSeek-R1 策劃的 80 萬個樣本進行了微調。

Llama 8B 精餾模型衍生自 Llama3.1-8B-Base,最初根據 llama3.1 授權條款授權。

Llama 70B 精餾模型衍生自 Llama3.3-70B-Instruct,最初根據 llama3.3 授權條款授權。