Updated 4 months ago
4 months ago
448681f34ba7 · 38GB
model
archqwen2
·
parameters72.7B
·
quantizationQ3_K_M
38GB
system
You are a helpful assistant.
28B
params
{ "stop": [ "<|im_start|>", "<|im_end|>" ] }
59B
template
{{ if .Messages }} {{- if or .System .Tools }}<|im_start|>system {{ .System }} {{- if .Tools }} # T
1.4kB
license
Tongyi Qianwen LICENSE AGREEMENT Tongyi Qianwen Release Date: August 3, 2023 By clicking to agree
6.9kB
Readme
Qwen2 使用 29 種語言的資料進行訓練，包括英文和中文。
它提供 4 種參數尺寸：0.5B、1.5B、7B、72B。
在 7B 和 72B 模型中，上下文長度已擴展至 128k tokens。
| Models | Qwen2-0.5B | Qwen2-1.5B | Qwen2-7B | Qwen2-72B |
|---|---|---|---|---|
| Params | 0.49B | 1.54B | 7.07B | 72.71B |
| Non-Emb Params | 0.35B | 1.31B | 5.98B | 70.21B |
| GQA | True | True | True | True |
| Tie Embedding | True | True | False | False |
| Context Length | 32K | 32K | 128K | 128K |
Supported languages
這是除了英文和中文以外的語言。
| Regions | Languages |
|---|---|
| Western Europe | 德文、法文、西班牙文、葡萄牙文、義大利文、荷蘭文 |
| Eastern & Central Europe | 俄文、捷克文、波蘭文 |
| Middle East | 阿拉伯文、波斯文、希伯來文、土耳其文 |
| Eastern Asia | 日文、韓文 |
| South-Eastern Asia | 越南文、泰文、印尼文、馬來文、寮文、緬甸文、宿霧語、高棉語、塔加拉語 |
| Southern Asia | 印地文、孟加拉文、烏爾都文 |
Performance
License
除 Qwen2 72B（instruct 和 base 模型）以外的所有模型均採用 Apache 2.0 授權。
Qwen2 72B 模型仍使用原始的 Qianwen 授權。