Stable LM 2 是一個最先進的 1.6B 和 12B 參數語言模型,使用包含英文、西班牙文、德文、義大利文、法文、葡萄牙文和荷蘭文的多語資料進行訓練。
1.6b 12b
105.1K 提取次數 更新於 9 個月前
更新於 9 個月前
9 個月前
2b56d93c664f · 9.1GB
模型
架構stablelm
·
參數12.1B
·
量化Q5_1
9.1GB
授權條款
STABILITY AI 非商業研究社群授權協議 日期:2023 年 12 月 06 日 透過使用
7.4kB
Readme
Stable LM 2 1.6B 是一個最先進的 1.6 和 12B 十億參數小型語言模型,使用包含英文、西班牙文、德文、義大利文、法文、葡萄牙文和荷蘭文的多語資料進行訓練。
此模型使用公開可用的資料集和合成資料集的混合資料進行訓練,並採用直接偏好最佳化 (DPO)。