一個輕量級 AI 模型,具有 38 億個參數,效能超越了相似和更大尺寸的模型。

3.8b

229.9K 5 個月前

說明文件

Phi-3.5-mini 是一個輕量級、最先進的開放模型,建立在用於 Phi-3 的資料集之上 - 合成資料和經過濾的公開網站,重點是非常高品質、推理密集的資料。

該模型屬於 Phi-3 模型系列,支援 128K token 上下文長度。該模型經過嚴格的增強流程,結合了監督式微調、近端策略最佳化和直接偏好最佳化,以確保精確的指令遵循和穩健的安全措施。

長上下文

Phi-3.5-mini 支援 128K 上下文長度,因此該模型能夠執行多項長上下文任務,包括長文件/會議摘要、長文件問答、長文件資訊檢索。

參考文獻

Hugging Face