LiteLLM

LiteLLM 是一個開源、高效能的大型語言模型代理。它支援 OpenAI、Anthropic、Cohere 等多個提供商。

特點

• 為多個 LLM 提供商提供統一介面
• 高效能和低延遲
• 易於與現有應用程式整合
• 可自訂和可擴展

更多資訊，請訪問 LiteLLM 的官方網站。