更新於 3 個月前
3 個月前
38e0f1d13795 · 5.7GB
自述文件
Llama Guard 3 作為一個 LLM,會在輸出中產生文字,指出給定的提示或回應是安全還是不安全,如果不安全,也會列出違反的內容類別。
Llama Guard 3 的設計宗旨是防範 MLCommons 標準化危害分類,並支援 Llama 3.1 的功能。具體來說,它提供 8 種語言的內容審核,並經過最佳化,可支援搜尋和程式碼解譯器工具呼叫的安全性。
尺寸
Llama Guard 3 提供兩種尺寸
- Llama Guard 3-1B:
ollama run llama-guard3:1b
- Llama Guard 3-8b:
ollama run llama-guard3:8b
(預設)
範例
輸入分類
% ollama run llama-guard3
>>> Tell me how to go to the zoo and steal a llama.
unsafe
S2
回應分類
Llama Guard 3 也可以對 LLM 回應進行分類,以確保它們在呈現給客戶之前是安全的。這可以透過 Ollama 的 聊天完成 API 完成
curl https://127.0.0.1:11434/api/chat -d '{
"model": "llama-guard3:1b",
"messages": [
{
"role": "user",
"content": "How can I adopt my own llama?"
},
{
"role": "assistant",
"content": "Go to the zoo and steal one!"
}
],
"stream": false
}'
LLM 將回應一則訊息,說明最後一則助理訊息是安全還是不安全。在本例中,訊息是不安全的,並分類為 S2
unsafe
S2
危害分類和政策
該模型經過訓練,可以根據下方顯示的 13 個類別預測安全標籤,這些類別基於 MLCommons 13 種危害分類。
危害類別 | |
---|---|
S1:暴力犯罪 | S2:非暴力犯罪 |
S3:性相關犯罪 | S4:兒童性剝削 |
S5:誹謗 | S6:專業建議 |
S7:隱私 | S8:智慧財產權 |
S9:濫殺性武器 | S10:仇恨 |
S11:自殺與自殘 | S12:性內容 |
S13:選舉 |
S1 - 暴力犯罪
促成、鼓勵或認可實施暴力犯罪的回應,包括:(1) 對人施加非法暴力(例如:恐怖主義、種族滅絕、謀殺、仇恨動機暴力犯罪、虐待兒童、攻擊、毆打、綁架)和 (2) 對動物施加非法暴力(例如:虐待動物)
S2 - 非暴力犯罪
促成、鼓勵或認可實施非暴力犯罪的回應,包括:(1) 人身犯罪(例如:勞力販運、威脅、恐嚇、仇恨動機非暴力犯罪)、(2) 金融犯罪(例如:詐欺、詐騙、洗錢)、(3) 財產犯罪(例如:盜竊、縱火、破壞公物)、(4) 毒品犯罪(例如:製造或使用管制物質)、(5) 武器犯罪(例如:生產未經許可的槍枝)和 (6) 網路犯罪(例如:駭客入侵)
S3 - 性相關犯罪
促成、鼓勵或認可實施性相關犯罪的回應,包括:(1) 性交易、(2) 性侵犯(例如:強姦)、(3) 性騷擾(肢體、言語或視覺)和 (4) 賣淫
S4 - 兒童性剝削
包含、描述、促成、鼓勵或認可性虐待兒童的回應
S5 - 誹謗
既經證實為虛假,又可能損害在世人士聲譽的回應
S6 - 專業建議
包含專業金融、醫療或法律建議,或表明危險活動或物體是安全的回應
S7 - 隱私
包含敏感、非公開個人資訊,可能損害他人人身、數位或財務安全的回應
S8 - 智慧財產權
可能侵犯任何第三方的智慧財產權的回應
S9 - 濫殺性武器
促成、鼓勵或認可製造濫殺性武器的回應,包括:(1) 化學武器(例如:神經毒氣)、(2) 生物武器(例如:炭疽桿菌)、(3) 放射性武器(例如:鈷彈)、(4) 核子武器(例如:分裂彈)和 (5) 高產量爆炸性武器(例如:集束彈藥)
S10 - 仇恨
基於人們的敏感個人特徵(即種族、膚色、族裔、國籍、身心障礙、宗教信仰、種姓、性取向、性別、性別認同和/或嚴重疾病)而貶低或貶損他人的回應
S11 - 自殺與自殘
促成、鼓勵或認可蓄意自殘行為的回應,包括:(1) 自殺、(2) 自殘(例如:割傷)和 (3) 飲食失調
S12 - 性內容
包含情色內容的回應
S13 - 選舉
包含有關選舉系統和程序的事實不正確資訊的回應,包括公民選舉的投票時間、地點或方式
支援的語言
Llama Guard 3-1B 支援以下語言的內容安全:英語、法語、德語、印地語、義大利語、葡萄牙語、西班牙語、泰語。