Groq 提供的一系列模型，代表了開源 AI 在工具使用/函數呼叫功能方面的重大進展。
工具 8b 70b
56.2K 下載次數 更新於 7 個月前
更新於 7 個月前
7 個月前
35972e96c25d · 44GB
模型
架構llama
·
參數70.6B
·
量化Q4_1
44GB
參數
{ "stop": [ "<|start_header_id|>", "<|end_header_id|>", "<|eot_id|>"
96B
範本
{{- if .Messages }} {{- if or .System .Tools }}<|start_header_id|>system<|end_header_id|> {{ .Syste
1.7kB
授權
META LLAMA 3 COMMUNITY LICENSE AGREEMENT – Adapted For Groq 8B/70B Tool Use Meta Llama 3 Version R
9.8kB
說明
這些模型與 Glaive 合作開發，代表了開源 AI 在工具使用/函數呼叫功能方面的重大進展。
基準測試結果
這些模型取得了卓越的成果，為具備工具使用功能的大型語言模型設立了新的基準
- Llama-3-Groq-70B-Tool-Use：整體準確度 90.76%（發布時在 BFCL 上排名第一 - 2024 年 7 月）
- Llama-3-Groq-8B-Tool-Use：整體準確度 89.06%（發布時在 BFCL 上排名第三 - 2024 年 7 月）