Stable LM 2 是一個最先進的 16 億及 120 億參數語言模型,以包含英文、西班牙文、德文、義大利文、法文、葡萄牙文和荷蘭文的多語言資料進行訓練。

1.6b 12b

105.1K 9 個月前

說明文件

Stable LM 2 1.6B 是一個最先進的 16 億和 120 億參數小型語言模型,以包含英文、西班牙文、德文、義大利文、法文、葡萄牙文和荷蘭文的多語言資料進行訓練。

此模型以公開可用的資料集和合成資料集的混合資料進行訓練,並採用直接偏好最佳化 (DPO) 技術。

參考資料

公告

HuggingFace