IBM Granite 2B 和 8B 模型是純文字密集型 LLM,訓練資料超過 12 兆 tokens,在 IBM 的初步測試中,效能和速度都顯著優於先前的模型。
工具 2b 8b
81.9K 下載次數 更新於 7 週前
7 週前更新
7 週前
5f3faea362a7 · 6.2GB
模型
架構granite
·
參數8.17B
·
量化Q5_1
6.2GB
系統
Knowledge Cutoff Date: April 2024. You are Granite, developed by IBM.
69B
範本
<|start_of_role|>system<|end_of_role|> {{- if and (gt (len .Messages) 0) (eq (index .Messages 0).Rol
1.4kB
授權條款
Apache License Version 2.0, January 2004
11kB
讀我檔案
Granite 密集模型
IBM Granite 2B 和 8B 模型是純文字密集型 LLM,訓練資料超過 12 兆 tokens,在 IBM 的初步測試中,效能和速度都顯著優於先前的模型。
它們旨在支援基於工具的使用案例和檢索增強生成 (RAG),簡化程式碼生成、翻譯和錯誤修復。
參數大小
2B
ollama run granite3.1-dense:2b
8B
ollama run granite3.1-dense:8b
支援語言
英語、德語、西班牙語、法語、日語、葡萄牙語、阿拉伯語、捷克語、義大利語、韓語、荷蘭語、中文(簡體)
功能
- 摘要
- 文本分類
- 文本提取
- 問答
- 檢索增強生成 (RAG)
- 程式碼相關任務
- 函數呼叫任務
- 多語言對話使用案例
- 長上下文任務,包括長文檔/會議摘要、長文檔問答等。
Granite 混合專家模型
Granite 混合專家模型提供 1B 和 3B 參數大小版本,專為低延遲使用而設計。
了解更多
- 開發者: IBM 研究院
- GitHub 儲存庫: ibm-granite/granite-language-models
- 網站: Granite 文件
- 發布日期:2024 年 12 月 18 日
- 授權條款: Apache 2.0。