DeepSeek 的第一代推理模型,效能與 OpenAI-o1 相近,包括六個基於 Llama 和 Qwen,從 DeepSeek-R1 蒸餾出的密集模型。
25.5M 下載次數 更新於 4 週前
更新於 7 週前
7 週前
5c3319143a79 · 141GB
說明文件
DeepSeek 的第一代推理模型,在數學、程式碼和推理任務中,效能與 OpenAI-o1 相近。
模型
DeepSeek-R1
ollama run deepseek-r1:671b
蒸餾模型
DeepSeek 團隊已證明,大型模型的推理模式可以被蒸餾到小型模型中,與透過小型模型上的強化學習 (RL) 發現的推理模式相比,能產生更好的效能。
以下是透過使用 DeepSeek-R1 生成的推理資料,針對研究社群中廣泛使用的幾個密集模型進行微調而建立的模型。評估結果顯示,這些蒸餾出的較小型密集模型在基準測試中表現非常出色。
DeepSeek-R1-Distill-Qwen-1.5B
ollama run deepseek-r1:1.5b
DeepSeek-R1-Distill-Qwen-7B
ollama run deepseek-r1:7b
DeepSeek-R1-Distill-Llama-8B
ollama run deepseek-r1:8b
DeepSeek-R1-Distill-Qwen-14B
ollama run deepseek-r1:14b
DeepSeek-R1-Distill-Qwen-32B
ollama run deepseek-r1:32b
DeepSeek-R1-Distill-Llama-70B
ollama run deepseek-r1:70b
授權
模型權重以 MIT 授權條款授權。DeepSeek-R1 系列支援商業用途,允許任何修改和衍生作品,包括但不限於,為了訓練其他 LLM 而進行的蒸餾。請注意,
Qwen 蒸餾模型衍生自 Qwen-2.5 系列,該系列最初以 Apache 2.0 授權條款授權,現在使用 DeepSeek-R1 精選的 80 萬個樣本進行了微調。
Llama 8B 蒸餾模型衍生自 Llama3.1-8B-Base,最初以 llama3.1 授權條款授權。
Llama 70B 蒸餾模型衍生自 Llama3.3-70B-Instruct,最初以 llama3.3 授權條款授權。