Manifest 是開源的 LLM 路由器,位於應用程式和 LLM 提供商之間。它評分每個請求並路由至最具成本效益的模型,最多可節省 70% 的 AI Token 費用。內含即時分析儀表板。
開源 LLM 路由器,智慧地將 API 請求路由至最具成本效益的 AI 模型。簡單查詢使用便宜模型,複雜問題使用強大模型,最多節省 70% Token 費用。
部署後開啟網域即可存取 Manifest 即時分析儀表板。API 端點可在同一網域使用。
MIT — GitHub