IBM Granite 2B 和 8B 模型是僅限文字的密集型 LLM,使用超過 12 兆個 tokens 的資料進行訓練,在 IBM 的初步測試中,效能和速度都比其前代產品有顯著提升。

工具 2b 8b

46.3K 2 週前

自述文件

Granite 密集模型

IBM Granite 2B8B 模型是僅限文字的密集型 LLM,使用超過 12 兆個 tokens 的資料進行訓練,在 IBM 的初步測試中,效能和速度都比其前代產品有顯著提升。

它們旨在支援基於工具的使用案例和檢索增強生成 (RAG),簡化程式碼生成、翻譯和錯誤修復。

參數大小

2B

ollama run granite3.1-dense:2b

8B

ollama run granite3.1-dense:8b

支援的語言

英語、德語、西班牙語、法語、日語、葡萄牙語、阿拉伯語、捷克語、義大利語、韓語、荷蘭語、簡體中文

功能

  • 摘要
  • 文本分類
  • 文本提取
  • 問答
  • 檢索增強生成 (RAG)
  • 程式碼相關任務
  • 函數呼叫任務
  • 多語言對話使用案例
  • 長上下文任務,包括長文檔/會議摘要、長文檔問答等。

Granite 混合專家模型

Granite 混合專家模型提供 1B 和 3B 參數大小,專為低延遲使用而設計。

查看模型頁面

了解更多