mistrallite:7b-v0.1-q5_1 - Ollama 框架

mistrallite

MistralLite 是一個基於 Mistral 微調的模型，具有增強的處理長上下文能力。

7b

30.1K 下載次數更新於 16 months ago

更新於 16 months ago

16 months ago

e09d24104dd5 · 5.4GB

parameters7.24B

quantizationQ5_1

<|prompter|>{{ .System }} {{ .Prompt }}</s><|assistant|>

{ "num_ctx": 32768, "stop": [ "<|prompter|>", "<|assistant|>", "</s>

說明

MistralLite 是一個基於 Mistral 微調的模型，具有增強的處理長上下文（最多 32K tokens）能力。此模型在多個長上下文檢索和問答任務中表現顯著更好。

參考