Llama 3

2024年4月18日

3 Ollamas

Llama 3 現在可以使用 Ollama 執行。

開始使用，下載 Ollama 並執行 Llama 3

ollama run llama3

最強大的模型

Llama 3 代表著相較於 Llama 2 和其他公開模型的重大改進

  • 在比 Llama 2 大七倍的資料集上訓練
  • Context 長度是 Llama 2 的兩倍，達到 8K
  • 使用更大的 token 詞彙表（128K tokens）更有效率地編碼語言
  • 與 Llama 2 相比，錯誤「拒絕」的情況減少了不到 1⁄3

兩種尺寸：8B 和 70B 參數

Llama 3 的初始版本包含兩種尺寸

將 Llama 3 與流行的工具結合使用

LangChain

from langchain_community.llms import Ollama
llm = Ollama(model="llama3")
llm.invoke("Why is the sky blue?")

LlamaIndex

from llama_index.llms.ollama import Ollama
llm = Ollama(model="llama3")
llm.complete("Why is the sky blue?")

接下來是什麼

Meta 計劃發布 400B 參數的 Llama 3 模型以及更多模型。在接下來的幾個月中，他們將發布多個具有新功能的模型，包括多模態、以多種語言對話的能力、更長的 context window 和更強大的整體功能。