Snowflake 的前沿嵌入模型。Arctic Embed 2.0 新增了多語言支援,同時不犧牲英語效能或可擴展性。

嵌入 568m

1.92 萬 2 個月前

讀我檔案

Snowflake 很高興宣布推出 Arctic Embed 2.0,這是我們前沿嵌入模型的下一次迭代,現在可以支援多語言搜尋。雖然我們之前的版本受到了客戶、合作夥伴和開源社群的好評,並促成了數百萬次的下載,但我們一直收到一個要求:你們可以讓這個模型支援多語言嗎?Arctic Embed 2.0 建構在我們之前版本的穩固基礎之上,新增了多語言支援,同時不犧牲英語效能或可擴展性,以滿足更廣泛的使用者群體的需求,這些使用者群體涵蓋了廣泛的語言和應用程式。

Snowflake data 圖 1. 參數少於 10 億的開源多語言嵌入模型的單向量密集檢索效能。分數是 MTEB 檢索和 CLEF 子集(ELRA,2006 年)上 nDCG@10 的平均值,涵蓋英語、法語、西班牙語、義大利語和德語。

Arctic Embed 2.0 多樣化且強大的功能集

  1. 企業級吞吐量和效率: Arctic Embed 2.0 模型專為大規模企業需求而建構。即使是我們的「大型」模型,參數也遠低於 10 億,並提供快速、高吞吐量的嵌入功能。根據內部測試,它在 NVIDIA A10 GPU 上輕鬆處理每秒超過 100 個文件(平均),並實現低於 10 毫秒的查詢嵌入延遲,從而在經濟實惠的硬體上實現實際部署。
  2. 英語和非英語檢索的毫不妥協的品質: 儘管尺寸緊湊,但 Arctic Embed 2.0 模型在各種英語和非英語基準資料集上都取得了令人印象深刻的 NDCG@10 分數,展示了即使對於未包含在訓練配方中的語言也能很好地泛化的能力。這些令人印象深刻的基準分數使 Arctic Embed 2.0 成為前沿檢索模型中的領導者。
  3. 透過 Matryoshka Representation Learning (MRL) 實現可擴展的檢索: Arctic Embed 2.0 版本包含與 Arctic Embed 1.5 中引入的相同的量化友善 MRL 功能,允許使用者在對大型資料集執行搜尋時降低成本並最佳化規模。透過這兩種模型尺寸,使用者可以使用每個向量僅 128 位元組(比 OpenAI 流行的 text-embedding-3-large 模型 1 的未壓縮嵌入小 96 倍)實現高品質的檢索。與 Arctic Embed 1.5 一樣,Arctic Embed 2.0 模型在壓縮狀態下也超越了多個支援 MRL 的同類產品,具有顯著更低的品質降級和更高的基準分數。
  4. 真正開源: Arctic Embed 2.0 模型在寬鬆的 Apache 2.0 授權下發布。