Sailor2 是專為東南亞設計的多語言語言模型。提供 1B、8B 和 20B 參數大小。

1b 8b 20b

9,799 3 個月前

自述文件

logo

Sailor2 是一個社群驅動的倡議,旨在將尖端多語言模型帶到東南亞 (SEA)。我們的研究強調,對於生產用途的8B 和 20B 參數範圍模型,以及用於推測性解碼和研究目的等特殊應用的 1B 模型,存在強烈需求。這些模型以 Apache 2.0 授權發布,在整個地區提供更強大的進階語言技術可近性。

Sailor2 以出色的多語言模型 Qwen 2.5 為基礎構建,並在 500B 個 tokens 上持續預訓練,以使用統一模型更好地支援 15 種語言。這些語言包括英語、中文、緬甸語、宿霧語、伊洛卡諾語、印尼語、爪哇語、高棉語、寮語、馬來語、巽他語、他加祿語、泰語、越南語和瓦瑞語。透過解決對多元、穩健且可近性的語言模型日益增長的需求,Sailor2 致力於以開放、包容且可近性的多語言 LLM 為東南亞地區服務不足的群體提供服務。Sailor2 模型有 1B、8B 和 20B 三種尺寸,分別從 Qwen2.5 的 0.5B、7B 和 14B 基礎模型擴展而來。