LocalAI

セルフホスト型のオープンソースOpenAI API代替。自社インフラでLLM、画像生成、音声文字起こし、エンベディングを実行。OpenAI API仕様互換で既存ツールやライブラリとシームレスに統合。

デプロイ後にできること

1. ドメインにアクセス — LocalAI Web UIの起動を確認
2. モデルをダウンロード — 内蔵ギャラリーからモデルを閲覧・インストール
3. OpenAI互換APIを使用 — 任意のOpenAI SDKをLocalAIインスタンスに向ける
4. テキスト生成 — ローカルモデルでチャットとテキスト生成を実行
5. 画像生成 — Stable Diffusionモデルで画像を生成
6. 音声文字起こし — Whisperモデルで音声認識

主な機能

• OpenAI API互換エンドポイント（チャット、補完、エンベディング、画像、音声）
• 内蔵モデルギャラリー、ワンクリックダウンロード
• CPUで動作、GPU不要
• 複数モデル形式対応（GGUF、GGML、transformers）
• テキスト読み上げと音声文字起こし
• Stable Diffusion画像生成
• 関数呼び出しとツールサポート
• モデル管理とチャットのWeb UI

ライセンス

MIT — GitHub