LocalAI

Alternativa autoalojada de código abierto a la API de OpenAI. Ejecuta modelos de lenguaje, genera imágenes, transcripción de audio y embeddings en tu propia infraestructura. Compatible con la especificación de la API de OpenAI para una integración fluida.

Qué puedes hacer después del despliegue

1. Visita tu dominio — verifica que la interfaz web de LocalAI funciona
2. Descarga modelos — explora e instala modelos desde la galería integrada
3. Usa la API compatible con OpenAI — apunta cualquier SDK de OpenAI a tu instancia LocalAI
4. Genera texto — ejecuta chat y generación de texto con modelos locales
5. Genera imágenes — usa modelos Stable Diffusion para generar imágenes
6. Transcribe audio — usa modelos Whisper para convertir voz a texto

Características

• Endpoints compatibles con la API de OpenAI (chat, completions, embeddings, imágenes, audio)
• Galería de modelos integrada con descarga en un clic
• Funciona en CPU, sin GPU necesaria
• Soporte para múltiples formatos de modelo (GGUF, GGML, transformers)
• Conversión de texto a voz y voz a texto
• Generación de imágenes con Stable Diffusion
• Llamadas a funciones y soporte de herramientas
• Interfaz web para gestión de modelos y chat

Licencia

MIT — GitHub