由 Mistral AI 與 NVIDIA 合作建構,最先進的 12B 模型,具有 128k 上下文長度。
tools 12b
1.1M 下載次數 更新於 6 個月前
更新於 6 個月前
6 個月前
b91eec34730f · 13GB
model
archllama
·
parameters12.2B
·
quantizationQ8_0
13GB
params
{ "stop": [ "[INST]", "[/INST]" ] }
30B
template
{{- range $i, $_ := .Messages }} {{- if eq .Role "user" }} {{- if and $.Tools (le (len (slice $.Mess
688B
license
Apache License Version 2.0, January 2004
11kB
Readme
Mistral NeMo 是一個由 Mistral AI 與 NVIDIA 合作建構的 12B 模型。Mistral NeMo 提供高達 128k tokens 的大型上下文窗口。其推理能力、世界知識和編碼準確度在其尺寸類別中堪稱最先進。由於它依賴標準架構,Mistral NeMo 易於使用,並且可以隨插即用替代任何使用 Mistral 7B 的系統。