更新於 5 個月前
5 個月前
899020cd5b1e · 2.5GB
模型
archnemotron
·
parameters4.19B
·
quantizationQ3_K_L
2.5GB
範本
{{- if (or .Tools .System) }}<extra_id_0>System {{ if .System }}{{ .System }} {{ end }} {{- if .To
773B
授權
NVIDIA AI Foundation Models Community License Agreement IMPORTANT NOTICE – PLEASE READ AND AGREE B
15kB
說明文件
Nemotron-Mini-4B-Instruct 是一個用於生成角色扮演、檢索增強生成和函數呼叫的回應的模型。它是一個小型語言模型 (SLM)，通過知識蒸餾、剪枝和量化進行了最佳化，以實現速度和裝置端部署。
這個 instruct 模型針對英文的角色扮演、RAG QA 和函數呼叫進行了最佳化。它支援 4,096 個 token 的上下文長度。此模型已準備好用於商業用途。