Manifest
开源 LLM 路由器,智能地将 API 请求路由至最具成本效益的 AI 模型。简单查询使用便宜模型,复杂问题使用强大模型。
访问方式
部署后打开域名即可访问 Manifest 实时分析仪表板。
部署后可以做什么
- 打开域名 — 访问实时分析仪表板
- 配置提供商 — 添加 OpenAI、Anthropic、Google 等模型的 API 密钥
- 路由请求 — 将应用程序指向 Manifest
- 监控成本 — 在仪表板查看 Token 用量和各模型成本
- 设置预算 — 配置支出限制和模型回退链
- 分析模式 — 查看查询路由模式并优化
授权
MIT — GitHub