谷歌宣布 Firebase Genkit 支援 Ollama

2024年5月20日

Ollama Firebase Genkit

在 2024 年 Google I/O 大會上,Google 公布了 Firebase Genkit,其特色是支援 Ollama,以便在您的本機電腦上執行 Google 的開源 Gemma 模型。Firebase Genkit 是一個新的開源框架,供開發人員建置、部署和監控可投入生產環境、由 AI 驅動的應用程式。

Firebase Genkit UI

開始使用

Firebase Genkit 可在 MacOS、Windows、Linux 上與 Ollama 搭配運作,並透過 Docker 容器運作。

安裝 Genkit

npm i -g genkit

下載 Google 的 Gemma 模型

ollama pull gemma

如果您尚未安裝 Ollama,可以從這裡下載

建立並初始化新的 node.js 專案

mkdir genkit-ollama
cd genkit-ollama
npm init
genkit init

genkit init selecting ollama as a provider

Genkit 現在將在 localhost:4000 上執行。

Firebase Genkit UI

更多資源