LocalAI

Lokale, OpenAI-kompatible API für verschiedene KI-Modelle.

Website besuchen
ProduktansichtOffizielle Quelle
Open Source · Self-hosted

LocalAI stellt lokale Modelle über eine OpenAI-kompatible API und eine Weboberfläche bereit. Es kann Text-, Bild- und Audio-Workflows bündeln, doch Modellqualität, Geschwindigkeit und Speicherbedarf hängen stark von Hardware und gewähltem Modell ab.

Lizenz
MIT
Self-Hosting
Ja
Cloud-Angebot
Nein
Einrichtung
Technisch
Alternative zu
OpenAI APIOllama
Funktionen & Eignung

Funktionen

  • Modellverwaltung
  • Chat-Oberfläche
  • OpenAI-kompatible Endpunkte
  • Text-, Bild- und Audiofunktionen je Modell
  • Containerbetrieb
VorteileNachteile
  • Modelle auf eigener Infrastruktur betreiben
  • OpenAI-kompatible API erleichtert die Anbindung vorhandener Anwendungen
  • Unterstützt unterschiedliche Modelltypen und Backends
  • Modelle können viel RAM, VRAM und Speicher benötigen
  • Qualität und Funktionsumfang unterscheiden sich je Backend
  • Lokaler Betrieb bedeutet nicht automatisch, dass jede angebundene Komponente offline arbeitet

Integrationen

  • OpenAI-kompatible API
  • Docker
  • Modellgalerie
Docker
Ja
Mobile App
Nein
API
Ja
Lizenzstatus
Open Source
Installation & Wechsel

Installation

  • Mit einem kleinen, zur Hardware passenden Modell beginnen.
  • Container- oder Binärinstallation nach offizieller Dokumentation verwenden.
  • API-Zugriff absichern, bevor der Dienst im Netzwerk erreichbar ist.
Zur Dokumentation
Quellen & Projektaktivität

Datenstand

Redaktionelles Profil vom 7. September 2026. Funktionen und Lizenzbedingungen können sich ändern.

Alle Software
Ollama – Details öffnen
KI
Offizielle Produktansicht von Ollama
Alternative zu OpenAI APISelf-hosted
OllamaMittel

Lokale Ausführung und Verwaltung großer Sprachmodelle.

KIOpen Source
Ja Self-hostedNein CloudJa DockerMittel Einrichtung
Open WebUI – Details öffnen
KI
Offizielle Produktansicht von Open WebUI
Alternative zu ChatGPTSelf-hosted
Open WebUIMittel

Weboberfläche für Ollama und OpenAI-kompatible Modelle.

KISource Available
Ja Self-hostedNein CloudJa DockerMittel Einrichtung
LibreChat – Details öffnen
KI
Offizielle Produktansicht von LibreChat
Alternative zu ChatGPTSelf-hosted
LibreChatMittel

Anbieterübergreifende Chat-Oberfläche mit Agenten und RAG.

KIOpen Source
Ja Self-hostedNein CloudJa DockerMittel Einrichtung
LocalAI
Website besuchen