Llama 3.1 是 Meta 推出的全新最先進模型，提供 8B、70B 和 405B 參數尺寸。
工具 8b 70b 405b
21.9M 提取次數 更新於 2 個月前
更新於 4 個月前
4 個月前
44a139eeb344 · 3.2GB
模型
架構llama
·
參數8.03B
·
量化Q2_K
3.2GB
參數
{ "stop": [ "<|start_header_id|>", "<|end_header_id|>", "<|eot_id|>"
96B
模板
{{- if or .System .Tools }}<|start_header_id|>system<|end_header_id|> {{- if .System }} {{ .System
1.5kB
授權條款
LLAMA 3.1 社群授權協議 Llama 3.1 版本發布日期：2024 年 7 月 23 日 「協議」
12kB
說明文件
Meta Llama 3.1
Llama 3.1 模型系列產品
- 8B
- 70B
- 405B
Llama 3.1 405B 是首個公開可用的模型，在通用知識、可操控性、數學、工具使用和多語翻譯方面的最先進能力上，可與頂尖 AI 模型相媲美。
8B 和 70B 模型的升級版本是多語的，並且具有顯著更長的 128K 上下文長度、最先進的工具使用能力和整體更強的推理能力。 這使 Meta 最新的模型能夠支援進階用例，例如長篇文本摘要、多語對話代理和程式碼助理。
Meta 也修改了其授權條款，允許開發人員使用 Llama 模型（包括 405B 模型）的輸出，以改進其他模型。
模型評估
對於此版本，Meta 評估了超過 150 個基準資料集的效能，這些資料集涵蓋了廣泛的語言。 此外，Meta 進行了廣泛的人工評估，將 Llama 3.1 與真實場景中的競爭模型進行比較。 Meta 的實驗評估表明，我們的旗艦模型在一系列任務中與領先的基礎模型（包括 GPT-4、GPT-4o 和 Claude 3.5 Sonnet）具有競爭力。 此外，Meta 較小的模型與具有相似參數數量的封閉和開放模型相比也具有競爭力。