Llama 3.1 是 Meta 推出的全新最先進模型,提供 8B、70B 和 405B 參數尺寸。

工具 8b 70b 405b

21.9M 2 個月前

Readme

Meta Llama 3.1

image.png

Llama 3.1 模型系列可用

  • 8B
  • 70B
  • 405B

Llama 3.1 405B 是首個公開可用的模型,在通用知識、可操控性、數學、工具使用和多語翻譯方面的最先進能力上,可與頂尖 AI 模型相匹敵。

升級版的 8B 和 70B 模型是多語的,並且具有顯著更長的 128K 上下文長度、最先進的工具使用能力和整體更強的推理能力。這使 Meta 最新的模型能夠支援進階使用案例,例如長篇文本摘要、多語對話代理和程式碼助手。

Meta 也修改了他們的許可證,允許開發人員使用 Llama 模型(包括 405B 模型)的輸出,以改進其他模型。

模型評估

對於此版本,Meta 已在涵蓋廣泛語言的 150 多個基準資料集上評估了效能。此外,Meta 進行了廣泛的人工評估,將 Llama 3.1 與真實場景中的競爭模型進行比較。Meta 的實驗性評估表明,我們的旗艦模型在包括 GPT-4、GPT-4o 和 Claude 3.5 Sonnet 在內的一系列任務中,與領先的基礎模型具有競爭力。此外,Meta 的較小模型在參數數量相似的封閉和開放模型中也具有競爭力。

image.png

image.png

image.png

參考文獻