Manifest 是开源的 LLM 路由器,位于应用程序和 LLM 提供商之间。它评分每个请求并路由至最具成本效益的模型,最多可节省 70% 的 AI Token 费用。内含实时分析仪表板。
开源 LLM 路由器,智能地将 API 请求路由至最具成本效益的 AI 模型。简单查询使用便宜模型,复杂问题使用强大模型。
部署后打开域名即可访问 Manifest 实时分析仪表板。
MIT — GitHub