Llama 3.1 是 Meta 推出的最新頂尖模型,提供 8B、70B 和 405B 參數尺寸。

工具 8b 70b 405b

21.9M 2 個月前

讀我

Meta Llama 3.1

image.png

Llama 3.1 模型系列現已推出

  • 8B
  • 70B
  • 405B

Llama 3.1 405B 是首個公開提供的模型,在通用知識、可控性、數學、工具使用和多語言翻譯等最先進的功能方面,能與頂尖 AI 模型相媲美。

8B 和 70B 模型的升級版本支援多語言,並具有顯著更長的 128K 上下文長度、最先進的工具使用能力和整體更強大的推理能力。這使得 Meta 最新的模型能夠支援進階用例,例如長篇文本摘要、多語言對話代理和程式碼助手。

Meta 也修改了他們的授權條款,允許開發人員使用 Llama 模型的輸出(包括 405B 模型)來改進其他模型。

模型評估

在此版本中,Meta 評估了超過 150 個基準數據集的效能,這些數據集涵蓋了廣泛的語言。此外,Meta 進行了廣泛的人工評估,比較 Llama 3.1 與競爭模型在真實場景中的表現。Meta 的實驗性評估表明,我們的旗艦模型在各種任務上都具有與領先基礎模型競爭的實力,包括 GPT-4、GPT-4o 和 Claude 3.5 Sonnet。此外,Meta 的較小模型也與參數數量相近的封閉和開放模型具有競爭力。

image.png

image.png

image.png

參考文獻