LocalGPT

github.com/PromtEngineer/localGPT ist eine quelloffene Plattform zur Dokumentenanalyse, mit der Nutzer Fragen zu eigenen Dateien stellen und Erkenntnisse daraus gewinnen, wobei die Verarbeitung vollständig auf dem eigenen Rechner stattfindet.

🛡️ Datenschutz: Quelloffenes Community-Projekt ohne genannten kommerziellen Betreiber; Firmensitz nicht öffentlich dokumentiert. Laut Projektbeschreibung verlassen die Daten den eigenen Rechner nicht, da die Verarbeitung lokal erfolgt. Da keine Anbieterorganisation existiert, gibt es keinen AVV/DPA; bei Anbindung externer Modelle sollte der jeweilige Modellanbieter vorab geprüft werden.

Das Tool richtet sich an Entwickler und technisch versierte Anwender, die vertrauliche Dokumente mit KI durchsuchen wollen, ohne sie an externe Dienste zu senden.

Tool-Details & Features

💰 Preise: Open Source unter MIT-Lizenz und kostenlos nutzbar; Kosten entstehen höchstens für die eigene Hardware.

⚙️ Technik: Kombiniert dichte Vektorsuche mit Volltextsuche, wählt automatisch zwischen Dokumentenabfrage (RAG) und direkter Modellantwort und nutzt austauschbare Modelle über Ollama; Installation per Docker oder Python.

👥 Zielgruppe: Entwickler, Datenschutzbewusste Anwender, kleine Teams mit eigener Infrastruktur.

🔗 Integrationen: REST-API für eigene Anwendungen, Ollama für lokale Modelle; Formate PDF, DOCX, HTML, Markdown und TXT.

📊 Funktionen: Fragen zu eigenen Dokumenten, Hybridsuche, automatische Wahl zwischen RAG und direkter Antwort, Unterstützung mehrerer Dateiformate, austauschbare Sprachmodelle, HTTP-Schnittstelle.

Vor- & Nachteile

✅ Vorteile: Daten bleiben laut Projekt lokal auf dem eigenen Rechner; kostenlos und quelloffen mit flexibler Modellwahl.

❌ Nachteile: Einrichtung erfordert technische Kenntnisse (Docker oder Python, lokale Modelle); Qualität und Geschwindigkeit hängen von der eigenen Hardware und dem gewählten Modell ab.

Für wen geeignet?

Perfekt für Entwickler und datenschutzbewusste Teams, die eigene Dokumente lokal mit KI durchsuchen und abfragen wollen.