TinyLlama 專案是一個開放的努力,旨在訓練一個基於 3 兆 tokens 的精巧 1.1B Llama 模型。

1.1b

1.3M 13 個月前

說明文件

TinyLlama 是一個僅有 1.1B 參數的精巧模型。這種精巧性使其能夠滿足多種需要受限計算和記憶體佔用空間的應用。

參考文獻

Hugging Face

GitHub