更新於 4 個月前
4 個月前
cb6c3529e5c1 · 30GB
模型 (model)
架構 (arch)qwen2
·
參數 (parameters)72.7B
·
量化 (quantization)Q2_K
30GB
系統 (system)
您是一位樂於助人的助手。
28B
參數 (params)
{ "stop": [ "<|im_start|>", "<|im_end|>" ] }
59B
模板 (template)
{{ if .Messages }} {{- if or .System .Tools }}<|im_start|>system {{ .System }} {{- if .Tools }} # T
1.4kB
許可證 (license)
通義千問許可協議 通義千問發布日期：2023 年 8 月 3 日 按一下同意
6.9kB
Readme
Qwen2 使用 29 種語言的資料進行訓練，包括英文和中文。
它提供 4 種參數尺寸：0.5B、1.5B、7B、72B。
在 7B 和 72B 模型中，上下文長度已擴展至 128k 個 tokens。
| 模型 (Models) | Qwen2-0.5B | Qwen2-1.5B | Qwen2-7B | Qwen2-72B |
|---|---|---|---|---|
| 參數 (Params) | 0.49B | 1.54B | 7.07B | 72.71B |
| 非嵌入參數 (Non-Emb Params) | 0.35B | 1.31B | 5.98B | 70.21B |
| GQA | True | True | True | True |
| 綁定嵌入 (Tie Embedding) | True | True | False | False |
| 上下文長度 (Context Length) | 32K | 32K | 128K | 128K |
支援的語言 (Supported languages)
除了英文和中文之外，還支援以下語言
| 區域 (Regions) | 語言 (Languages) |
|---|---|
| 西歐 (Western Europe) | 德語、法語、西班牙語、葡萄牙語、義大利語、荷蘭語 |
| 東歐 & 中歐 (Eastern & Central Europe) | 俄語、捷克語、波蘭語 |
| 中東 (Middle East) | 阿拉伯語、波斯語、希伯來語、土耳其語 |
| 東亞 (Eastern Asia) | 日語、韓語 |
| 東南亞 (South-Eastern Asia) | 越南語、泰語、印尼語、馬來語、寮語、緬甸語、宿霧語、高棉語、塔加洛語 |
| 南亞 (Southern Asia) | 印地語、孟加拉語、烏爾都語 |
效能 (Performance)
許可證 (License)
除 Qwen2 72B（instruct 和 base 模型）之外的所有模型均已獲得 Apache 2.0 許可。
Qwen2 72B 模型仍使用原始的 Qianwen 許可證。