granite3-密集

IBM Granite 2B 和 8B 模型旨在支援基於工具的使用案例，並支援檢索增強生成 (RAG)，從而簡化程式碼生成、翻譯和錯誤修復。

工具 2b 8b

57.9K 3 個月前

33 個標籤

Readme

An illustration of Ollama holding a beautiful flower with the IBM Rebus logo of the Eye, Bee and M, made by Paul Rand.

Granite 密集模型

IBM Granite 2B 和 8B 模型是僅限文字的密集 LLM，在超過 12 兆個 tokens 的資料上進行訓練，在 IBM 的初步測試中，效能和速度都比其前代產品有了顯著提升。 Granite-8B-Instruct 現在在 OpenLLM Leaderboard v1 和 OpenLLM Leaderboard v2 基準測試中，可以與 Llama 3.1 8B-Instruct 相媲美。

它們旨在支援基於工具的使用案例，並用於檢索增強生成 (RAG)，從而簡化程式碼生成、翻譯和錯誤修復。

參數大小

2B

ollama run granite3-dense:2b

8B

ollama run granite3-dense:8b

支援的語言

英文, 德文, 西班牙文, 法文, 日文, 葡萄牙文, 阿拉伯文, 捷克文, 義大利文, 韓文, 荷蘭文, 中文 (簡體)

功能

  • 摘要
  • 文本分類
  • 文本提取
  • 問答
  • 檢索增強生成 (RAG)
  • 程式碼相關
  • 函數調用
  • 多語言對話使用案例

Granite 專家混合模型

Granite 專家混合模型提供 1B 和 3B 參數大小，專為低延遲使用而設計。

查看模型頁面

了解更多