LocalAI

自托管的开源 OpenAI API 替代方案。在自有基础设施上运行大型语言模型、生成图片、语音转文字和嵌入向量。兼容 OpenAI API 规范，可无缝集成现有工具和库。

部署后可以做什么

1. 打开域名 — 确认 LocalAI 网页界面已启动
2. 下载模型 — 从内置模型库浏览并安装模型
3. 使用 OpenAI 兼容 API — 将任何 OpenAI SDK 指向你的 LocalAI 实例
4. 生成文字 — 使用本地模型运行聊天和文字生成
5. 生成图片 — 使用 Stable Diffusion 模型生成图片
6. 语音转文字 — 使用 Whisper 模型进行语音识别

主要功能

• OpenAI API 兼容端点（聊天、补全、嵌入、图片、音频）
• 内置模型库，一键下载
• 可在 CPU 上运行，无需 GPU
• 支持多种模型格式（GGUF、GGML、transformers）
• 文字转语音和语音转文字
• Stable Diffusion 图片生成
• 函数调用和工具支持
• 模型管理和聊天的网页界面

授权

MIT — GitHub