更新於 8 個月前
8 個月前
425aee1fa207 · 369MB
模型
archqwen2
·
parameters494M
·
quantizationQ3_K_L
369MB
參數
{ "stop": [ "<|im_start|>", "<|im_end|>" ] }
59B
範本
{{ if .System }}<|im_start|>system {{ .System }}<|im_end|> {{ end }}{{ if .Prompt }}<|im_start|>user
182B
授權
Apache License Version 2.0, January 200
11kB
說明文件
Qwen2 使用 29 種語言的資料進行訓練，包括英文和中文。
它提供 4 種參數尺寸：0.5B、1.5B、7B、72B。
在 7B 和 72B 模型中，上下文長度已擴展至 128k tokens。
| 模型 | Qwen2-0.5B | Qwen2-1.5B | Qwen2-7B | Qwen2-72B |
|---|---|---|---|---|
| 參數 | 0.49B | 1.54B | 7.07B | 72.71B |
| 非嵌入參數 | 0.35B | 1.31B | 5.98B | 70.21B |
| GQA | 是 | 是 | 是 | 是 |
| 綁定嵌入 | 是 | 是 | 否 | 否 |
| 上下文長度 | 32K | 32K | 128K | 128K |
支援語言
除了英文和中文之外
| 地區 | 語言 |
|---|---|
| 西歐 | German, French, Spanish, Portuguese, Italian, Dutch |
| 東歐和中歐 | Russian, Czech, Polish |
| 中東 | Arabic, Persian, Hebrew, Turkish |
| 東亞 | Japanese, Korean |
| 東南亞 | Vietnamese, Thai, Indonesian, Malay, Lao, Burmese, Cebuano, Khmer, Tagalog |
| 南亞 | Hindi, Bengali, Urdu |
效能
授權
除了 Qwen2 72B（包括 instruct 和 base 模型）之外的所有模型均採用 Apache 2.0 授權。
Qwen2 72B 模型仍然使用原始的 Qianwen 授權。