LocalAI

Alternatif self-hosted open-source untuk API OpenAI. Jalankan model bahasa besar, generate gambar, transkripsi audio, dan embedding di infrastruktur sendiri. Kompatibel dengan spesifikasi API OpenAI untuk integrasi yang mulus.

Apa yang bisa dilakukan setelah deploy

1. Buka domain — verifikasi web UI LocalAI sudah berjalan
2. Download model — jelajahi dan instal model dari galeri bawaan
3. Gunakan API kompatibel OpenAI — arahkan SDK OpenAI ke instance LocalAI
4. Generate teks — jalankan chat dan generasi teks dengan model lokal
5. Generate gambar — gunakan model Stable Diffusion untuk generasi gambar
6. Transkripsi audio — gunakan model Whisper untuk speech-to-text

Fitur

• Endpoint kompatibel API OpenAI (chat, completions, embedding, gambar, audio)
• Galeri model bawaan, download satu klik
• Berjalan di CPU, tanpa GPU
• Dukungan multi format model (GGUF, GGML, transformers)
• Text-to-speech dan speech-to-text
• Generasi gambar Stable Diffusion
• Function calling dan dukungan tool
• Web UI untuk manajemen model dan chat

Lisensi

MIT — GitHub