Llama 3.1 是 Meta 推出的全新最先進模型,提供 8B、70B 和 405B 參數尺寸。
工具 8b 70b 405b
21.9M 拉取次數 更新於 2 個月前
更新於 4 個月前
4 個月前
57c259aa0162 · 149GB
模型
架構llama
·
參數406B
·
量化Q2_K
149GB
參數
{ "stop": [ "<|start_header_id|>", "<|end_header_id|>", "<|eot_id|>"
96B
範本
{{- if or .System .Tools }}<|start_header_id|>system<|end_header_id|> {{- if .System }} {{ .System
1.5kB
許可證
LLAMA 3.1 社群許可協議 Llama 3.1 版本 發布日期:2024 年 7 月 23 日 “協議”
12kB
讀我檔案
Meta Llama 3.1
Llama 3.1 模型系列
- 8B
- 70B
- 405B
Llama 3.1 405B 是首個公開發布的模型,其最先進的功能在於一般知識、可控性、數學、工具使用和多語言翻譯,足以媲美頂尖 AI 模型。
8B 和 70B 模型升級版支援多語言,並具有顯著更長的 128K 上下文長度、最先進的工具使用能力和更強大的整體推理能力。這使得 Meta 最新的模型能夠支援進階用例,例如長篇文本摘要、多語言對話代理和編碼助手。
Meta 也對其許可證進行了更改,允許開發人員使用 Llama 模型(包括 405B 模型)的輸出,以改進其他模型。
模型評估
在此版本中,Meta 評估了超過 150 個基準資料集的效能,這些資料集涵蓋多種語言。此外,Meta 進行了廣泛的人工評估,比較 Llama 3.1 與競爭模型在真實場景中的表現。Meta 的實驗性評估表明,我們的旗艦模型在各種任務中,包括 GPT-4、GPT-4o 和 Claude 3.5 Sonnet,都與領先的基礎模型競爭力相當。此外,Meta 的較小模型在參數數量相似的封閉和開放模型中也具有競爭力。