mistrallite:7b-v0.1-q3_K_L - Ollama 框架

mistrallite

MistralLite 是一個基於 Mistral 微調的模型，具有增強的長上下文處理能力。

7b

30.1K 下載次數已更新 16 個月前

16 個月前更新

16 個月前

bb7562f0532f · 3.8GB

parameters7.24B

quantizationQ3_K_L

<|prompter|>{{ .System }} {{ .Prompt }}</s><|assistant|>

{ "num_ctx": 32768, "stop": [ "<|prompter|>", "<|assistant|>", "</s>

Readme

Mistrallite 是一個基於 Mistral 微調的模型，具有增強的長上下文處理能力（最多 32K tokens）。此模型在多個長上下文檢索和回答任務中表現明顯更好。

參考