Manifest
開源 LLM 路由器,智慧地將 API 請求路由至最具成本效益的 AI 模型。簡單查詢使用便宜模型,複雜問題使用強大模型,最多節省 70% Token 費用。
存取方式
部署後開啟網域即可存取 Manifest 即時分析儀表板。API 端點可在同一網域使用。
部署後可以做什麼
- 開啟網域 — 存取即時分析儀表板
- 設定提供商 — 新增 OpenAI、Anthropic、Google 等 300+ 模型的 API 金鑰
- 路由請求 — 將應用程式指向 Manifest 而非直接連接 LLM 提供商
- 監控成本 — 在儀表板查看 Token 用量、各模型成本和路由決策
- 設定預算 — 設定支出限制和模型備援鏈
- 分析模式 — 查看查詢路由到哪些模型並據此優化
授權
MIT — GitHub