一個精巧但功能強大的 107 億參數大型語言模型,專為單輪對話設計。

10.7b

76.2K 13 個月前

說明文件

Solar 是第一個開源的 107 億參數語言模型。它精巧但功能非常強大,並在參數少於 300 億的模型中展現了最先進的效能。

此模型利用 Llama 2 架構,並採用深度向上擴展技術,將 Mistral 7B 權重整合至向上擴展的層。

在 H6 基準測試中,此模型的效能超越了參數高達 300 億的模型,甚至包括 Mixtral 8X7B 模型。

參考資料

HuggingFace

Upstage AI