Stable LM 2 是一個最先進的 1.6B 和 12B 參數語言模型,使用多語言資料進行訓練,語言包括英語、西班牙語、德語、義大利語、法語、葡萄牙語和荷蘭語。

1.6b 12b

105.1K 9 months ago

Readme

Stable LM 2 1.6B 是一個最先進的 1.6 和 12B 十億參數小型語言模型,使用多語言資料進行訓練,語言包括英語、西班牙語、德語、義大利語、法語、葡萄牙語和荷蘭語。

此模型是在公開可用的資料集和合成資料集的混合資料上訓練的,並利用直接偏好優化 (DPO)。

參考文獻

公告

HuggingFace