Bifrost

Bifrost 是開源 AI 閘道。本模板依官方 runtime contract（映像 v2.0.0）部署：單一 Go 行程、SQLite 落在 /app/data，控制台與推論共用同一個 HTTP 連接埠。

包含服務：

• bifrost — maximhq/bifrost:v2.0.0（API、控制台、SQLite 設定庫、SQLite 日誌庫）

不需要 PostgreSQL、Redis 或額外 worker。OSS 的 SQLite 只支援單一副本。

資源建議

映像約 87 MB。個人或小團隊 0.5–1 vCPU、512 MB–1 GB RAM 即可。

設定

需要填寫閘道網域。控制台驗證開箱即開（使用者名稱 admin，密碼自動產生）。到 bifrost 服務的 env 查看 BIFROST_ADMIN_PASSWORD 與 BIFROST_VIRTUAL_KEY。

可選上游 key（OPENAI_API_KEY、ANTHROPIC_API_KEY、OPENROUTER_API_KEY、DEEPSEEK_API_KEY）透過 config.json 的 env.* 引用注入。留空也可以，之後在控制台補。Gemini、Azure、Bedrock、Groq、Ollama 等可在 UI 新增，不必重新部署。

BIFROST_ENCRYPTION_KEY 會自動產生，重啟後不要改。改了會導致已加密的設定讀不出來。

首次登入

打開閘道網域，使用：

• 使用者名稱：admin
• 密碼：env 裡的 BIFROST_ADMIN_PASSWORD

然後可在控制台繼續加虛擬 Key、預算或其他供應商。

快速測試

/health 回傳 200，且至少設定了一個上游 key 之後：

curl --fail-with-body --max-time 60 \
  -X POST https://<your-domain>/v1/chat/completions \
  -H "Authorization: Bearer <BIFROST_VIRTUAL_KEY>" \
  -H "Content-Type: application/json" \
  -d '{"model":"openai/gpt-4o-mini","messages":[{"role":"user","content":"Hello"}]}'

管理員 Basic Auth 也可以：-u admin:<BIFROST_ADMIN_PASSWORD>。

對接 OpenAI SDK / GapSeek 的 OPENAI_BASE_URL：

https://<your-domain>/openai

OPENAI_API_KEY 填 BIFROST_VIRTUAL_KEY。模型名稱是 provider/model，例如 openai/gpt-4o-mini、anthropic/claude-sonnet-4-5、openrouter/deepseek/deepseek-chat。

本模板範圍

需求	本模板
OpenAI 相容 /v1 + /openai	已包含
內建控制台	已包含（同一網域）
故障轉移 / 負載平衡 / 虛擬 Key	已包含（在 UI 設定）
語意快取、MCP、更多供應商	在控制台新增
多副本 / HA	不包含；需要 Bifrost Enterprise + PostgreSQL

不要把未驗證的閘道暴露到公網。推論請求預設需要虛擬 Key（或管理員 Basic Auth），除非你在 Security 關掉 inference 驗證。

版本

映像以 digest 鎖定 maximhq/bifrost:v2.0.0（拉取日期 2026-09-03）。

參考

• 安裝: https://docs.getbifrost.ai/quickstart/gateway/setting-up
• Runtime contract: https://docs.getbifrost.ai/deployment-guides/runtime-contract
• config.json: https://docs.getbifrost.ai/deployment-guides/config-json
• GitHub: https://github.com/maximhq/bifrost
• License: Apache-2.0