Stable LM 2 是一個最先進的 1.6B 和 12B 參數語言模型,基於多語言資料訓練,語言包括英文、西班牙文、德文、義大利文、法文、葡萄牙文和荷蘭文。

1.6b 12b

108.1K 10 個月前

說明文件

Stable LM 2 1.6B 是一個最先進的 1.6 和 12B 十億參數小型語言模型,基於多語言資料訓練,語言包括英文、西班牙文、德文、義大利文、法文、葡萄牙文和荷蘭文。

這個模型基於公開可用的資料集和合成資料集混合訓練,並採用直接偏好最佳化 (DPO) 技術。

參考文獻

公告

HuggingFace