更新於 15 個月前
15 個月前
07eb9c33537f · 29GB
模型
archllama
·
parameters69B
·
quantizationQ2_K
29GB
參數
{ "num_gqa": 8, "stop": [ "### HUMAN:", "### RESPONSE:" ] }
51B
範本
{{ .System }} ### HUMAN: {{ .Prompt }} ### RESPONSE:
55B
許可證
# Llama 2 Acceptable Use Policy Meta is committed to promoting safe and fair use of its tools and f
4.8kB
許可證
LLAMA 2 COMMUNITY LICENSE AGREEMENT Llama 2 Version Release Date: July 18, 2023 "Agreement" means
7.0kB
讀我檔案
Llama 2 Uncensored 是基於 Meta 的 Llama 2 模型,由 George Sung 和 Jarrad Hope 依據 Eric Hartford 在其部落格文章中定義的流程所建立。
CLI
開啟終端機並執行 ollama run llama2-uncensored
API
範例
curl -X POST https://127.0.0.1:11434/api/generate -d '{
"model": "llama2-uncensored",
"prompt":"Write a recipe for dangerously spicy mayo."
}'
記憶體需求
- 7b 模型通常至少需要 8GB 的記憶體
- 70b 模型通常至少需要 64GB 的記憶體
參考資料
https://erichartford.com/uncensored-models
7b 參數原始來源:George Sung
70b 參數原始來源:George Sung