phind-codellama:34b-q8_0

Phind CodeLlama 是一個基於 CodeLlama 34B 微調以用於指令用例的程式碼生成模型。此模型有兩個版本：v1 和 v2。v1 基於 CodeLlama 34B 和 CodeLlama-Python 34B。v2 是 v1 的迭代版本，額外在 1.5B 個 tokens 的高品質程式設計相關資料上進行訓練。

使用方式

CLI

開啟終端機並執行 ollama run phind-codellama

API

範例

curl -X POST https://127.0.0.1:11434/api/generate -d '{
  "model": "phind-codellama",
  "prompt":"Implement a linked list in C++"
 }'

記憶體需求

34b 模型通常需要至少 32GB 的 RAM

參考資料

使用微調的 CodeLlama-34B 在 HumanEval 上擊敗 GPT-4

HuggingFace