Nous Hermes 由 Nous Research 發布。這裡主要有兩個變體，一個是基於 Llama 的 13B 參數模型，以及一個基於 Llama 2 的 7B 和 13B 參數模型。它們都是使用相同的數據集訓練的通用模型。

開始使用 Nous Hermes

以下範例中使用的模型是 Nous Hermes Llama 2 模型，具有 7b 參數，這是一個通用聊天模型。

API

1. 啟動 Ollama 伺服器 (執行 ollama serve)
2. 執行模型

curl -X POST https://127.0.0.1:11434/api/generate -d '{
  "model": "nous-hermes",
  "prompt":"Explain the process of how a refrigerator works to keep the contents inside cold."
 }'

CLI

1. 安裝 Ollama
2. 開啟終端機並執行 ollama run nous-hermes

注意：如果模型尚未下載，ollama run 命令會執行 ollama pull。若要在不執行的情況下下載模型，請使用 ollama pull nous-hermes

記憶體需求

• 7b 模型通常需要至少 8GB 的 RAM
• 13b 模型通常需要至少 16GB 的 RAM

如果您在使用較高的量化等級時遇到問題，請嘗試使用 q4 模型或關閉任何其他佔用大量記憶體的程式。

模型變體

Ollama 提供了許多 Nous Hermes 模型的變體，這些變體基於官方模型進行量化，以便在本地良好運行。

Nous Hermes Llama 2 是基於原始 Llama 模型的原始 Nous Hermes 模型。

範例：ollama run nous-hermes

Nous Hermes Llama 1 是基於原始 Llama 模型的原始 Nous Hermes 模型。

範例：ollama run nous-hermes:13b-q4_0

預設情況下，Ollama 使用 4 位元量化。若要嘗試其他量化等級，請嘗試其他標籤。q 後面的數字代表用於量化的位元數（即 q4 表示 4 位元量化）。數字越高，模型越準確，但運行速度越慢，並且需要的記憶體越多。

模型來源

Ollama 上的 Nous Hermes Llama 2 來源

7b 參數原始來源：Nous Research

13b 參數原始來源：Nous Research

Ollama 上的 Nous Hermes Llama 1 來源

13b 參數原始來源：Nous Research