一個強大的混合專家 (MoE) 語言模型,總共有 671B 個參數,每次 token 啟用 37B 個參數。

671b

748.8K 8 週前

5 個標籤
5da0e2d4a9e0 • 404GB • 8 週前
5da0e2d4a9e0 • 404GB • 8 週前
7770bf5a5ed8 • 1.3TB • 8 週前
5da0e2d4a9e0 • 404GB • 8 週前
96061c74c1a5 • 713GB • 8 週前