Meta 的 Llama 3.2 以 1B 和 3B 模型走向小型化。

工具 1b 3b

810萬 4 個月前

說明文件

Meta Llama 3.2 多語言大型語言模型 (LLM) 系列,包含 1B 和 3B 尺寸的預訓練和指令微調生成模型(文字輸入/文字輸出)。Llama 3.2 指令微調的純文字模型針對多語言對話使用案例進行了優化,包括代理檢索和摘要任務。它們在常見的行業基準測試中,表現優於許多可用的開源和封閉式聊天模型。

尺寸

3B 參數 (預設)

3B 模型在以下任務上的表現優於 Gemma 2 2.6B 和 Phi 3.5-mini 模型:

  • 遵循指示
  • 摘要
  • 提示詞改寫
  • 工具使用
ollama run llama3.2

1B 參數

1B 模型與其他 1-3B 參數模型相比具有競爭力。其使用案例包括:

  • 個人資訊管理
  • 多語言知識檢索
  • 在邊緣裝置本地執行的改寫任務
ollama run llama3.2:1b

基準測試

Llama 3.2 instruction-tuned benchmarks

支援語言: 官方支援英文、德文、法文、義大利文、葡萄牙文、印地語、西班牙文和泰文。Llama 3.2 的訓練語言範圍比這 8 種支援語言更廣泛。