讀我
Granite-3.2 是 IBM Granite 系列的長脈絡 AI 模型,針對思考能力進行了微調。它基於 Granite-3.1 建構,並使用許可開放原始碼資料集和內部產生的合成資料混合訓練,這些資料專為推理任務而設計。這些模型可以控制其思考能力,確保僅在需要時才應用。
- 開發者: Granite 團隊,IBM
- 網站: Granite 文件
- 發布日期: 2025 年 2 月 26 日
- 許可證: Apache 2.0
尺寸
這些模型提供兩種參數尺寸:2B 和 8B
ollama run granite3.2:2b
ollama run granite3.2:8b
支援語言: 英文、德文、西班牙文、法文、日文、葡萄牙文、阿拉伯文、捷克文、義大利文、韓文、荷蘭文和中文。但是,使用者可以針對這 12 種語言以外的語言微調此 Granite 模型。
預期用途: 這些模型旨在處理一般指令遵循任務,並且可以整合到各個領域的 AI 助理中,包括商業應用。
功能
- 思考
- 摘要
- 文本分類
- 文本提取
- 問答
- 檢索增強生成 (RAG)
- 程式碼相關任務
- 函數呼叫任務
- 多語言對話用例
- 長脈絡任務,包括長文檔/會議摘要、長文檔問答等。
思考
若要啟用思考功能,請新增一則訊息,其中 "role": "control"
且將 "content"
設定為 "thinking"
。例如
{
"messages": [
{"role": "control", "content": "thinking"},
{"role": "user", "content": "How do I get to the airport if my car won't start?"}
]
}