15 個月前更新
15 個月前
886a369d74fc · 7.4GB
模型
架構llama
·
參數13B
·
量化Q4_0
7.4GB
參數
{ "stop": [ "USER:", "ASSISTANT:" ] }
31B
系統
您是一位樂於助人的 AI 助理。
31B
模板
{{ .System }} USER: {{ .Prompt }} ASSISTANT:
45B
Readme
WizardLM Uncensored 是基於 Eric Hartford 的 Llama 2 未經審查版本,參數為 13B 的模型。這些模型是針對 LLaMA-7B,使用資料集的一個子集進行訓練的,其中移除了包含對齊/道德勸說的回應。
開始使用 WizardLM Uncensored
以下範例中使用的模型是 WizardLM Uncensored 模型,參數為 13b,這是一個通用模型。
API
- 啟動 Ollama 伺服器 (執行
ollama serve
) - 執行模型
curl -X POST https://127.0.0.1:11434/api/generate -d '{
"model": "wizardlm-uncensored",
"prompt":"Who made Rose promise that she would never let go?"
}'
CLI
- 安裝 Ollama
- 開啟終端機並執行
ollama run wizardlm-uncensored
注意:如果模型尚未下載,ollama run
命令會執行 ollama pull
。若要在不執行的情況下下載模型,請使用 ollama pull wizardlm-uncensored
記憶體需求
- 13b 模型通常至少需要 16GB 的 RAM
如果您在使用較高的量化層級時遇到問題,請嘗試使用 q4 模型,或關閉任何其他佔用大量記憶體的程式。
模型變體
預設情況下,Ollama 使用 4 位元量化。若要嘗試其他量化層級,請嘗試其他標籤。q 後面的數字代表量化使用的位元數(即 q4 表示 4 位元量化)。數字越高,模型越精準,但執行速度越慢,需要的記憶體也越多。
別名 |
---|
latest, 13b, 13b-llama2, 13b-llama2-q4_0 |
模型來源
Ollama 上的 WizardLM Uncensored 來源
13b 參數來源:The Bloke
13b 參數原始來源:Eric Hartford