Stable LM 2 是一個最先進的 1.6B 和 12B 參數語言模型,以多語言資料(包含英文、西班牙文、德文、義大利文、法文、葡萄牙文和荷蘭文)訓練而成。

1.6b 12b

105.1K 9 個月前

Readme

Stable LM 2 1.6B 是一個最先進的 1.6 和 12B 十億參數的小型語言模型,以多語言資料(包含英文、西班牙文、德文、義大利文、法文、葡萄牙文和荷蘭文)訓練而成。

此模型以公開可用的資料集和合成資料集的混合資料,並利用直接偏好優化 (DPO) 技術進行訓練。

參考文獻

公告

HuggingFace