Llama 3

Llama 3 現在可以使用 Ollama 執行了。

若要開始使用，下載 Ollama 並執行 Llama 3

ollama run llama3

最強大的模型

Llama 3 代表著相較於 Llama 2 和其他公開模型的重大進步

• 在比 Llama 2 大七倍的資料集上訓練
• 相較於 Llama 2 的 8K，上下文長度加倍
• 使用更大的 128K tokens 的 token 詞彙更有效率地編碼語言
• 與 Llama 2 相比，錯誤「拒絕」的情況少於 ¹⁄₃

兩種尺寸：8B 和 70B 參數

Llama 3 的初始版本包含兩種尺寸

• 8B 參數 ollama run llama3:8b
• 70B 參數 ollama run llama3:70b

將 Llama 3 與熱門工具結合使用

LangChain

from langchain_community.llms import Ollama
llm = Ollama(model="llama3")
llm.invoke("Why is the sky blue?")

LlamaIndex

from llama_index.llms.ollama import Ollama
llm = Ollama(model="llama3")
llm.complete("Why is the sky blue?")

下一步是什麼

Meta 計劃發布一個 400B 參數的 Llama 3 模型以及更多模型。在接下來的幾個月裡，他們將發布多個具有新功能的模型，包括多模態、多語言對話能力、更長的上下文窗口和更強大的整體功能。