LiteLLM

LiteLLM 是一个开源、高性能的大型语言模型代理。它支持 OpenAI、Anthropic、Cohere 等多个提供商。

特点

• 为多个 LLM 提供商提供统一接口
• 高性能和低延迟
• 易于与现有应用程序集成
• 可定制和可扩展

更多信息，请访问 LiteLLM 的官方网站。