Meta Llama 3.1

Llama 3.1 模型系列

• 8B
• 70B
• 405B

Llama 3.1 405B 是首個公開可用的模型，在通用知識、可控性、數學、工具使用和多語言翻譯方面，可與頂尖 AI 模型相匹敵。

升級後的 8B 和 70B 模型為多語言模型，並具有顯著更長的 128K 上下文長度、最先進的工具使用能力和整體更強的推理能力。這使得 Meta 最新的模型能夠支持進階用例，例如長篇文本摘要、多語言對話代理和程式碼助手。

Meta 也修改了其授權條款，允許開發人員使用 Llama 模型（包括 405B 模型）的輸出，以改進其他模型。

模型評估

在此版本中，Meta 評估了超過 150 個基準數據集的性能，這些數據集涵蓋了廣泛的語言。此外，Meta 進行了廣泛的人工評估，將 Llama 3.1 與真實場景中的競爭模型進行比較。Meta 的實驗性評估表明，我們的旗艦模型在包括 GPT-4、GPT-4o 和 Claude 3.5 Sonnet 在內的一系列任務中，與領先的基礎模型具有競爭力。此外，Meta 的較小模型與參數數量相似的封閉和開放模型相比也具有競爭力。

參考文獻

• Meta AI Llama 3.1 發布部落格文章