OpenHermes

huggingface.co/teknium/OpenHermes-2.5-Mistral-7B ist die Modellseite von OpenHermes 2.5, einem offenen KI-Sprachmodell mit 7 Milliarden Parametern, das auf Mistral-7B-v0.1 aufbaut und für Chat und das Befolgen von Anweisungen feinabgestimmt wurde.

🛡️ Datenschutz: Entwickler: Teknium (Einzelentwickler bzw. Community-Projekt), Sitz nicht öffentlich dokumentiert. Das Modell steht unter Apache-2.0-Lizenz und lässt sich lokal betreiben, sodass Eingaben nicht an einen Anbieter übertragen werden müssen; Angaben zu DPA oder Zertifizierungen gibt es nicht.

Das Tool richtet sich an Entwickler, Forschende und Hobbyanwender, die ein offenes Chat-Modell lokal betreiben oder weiter anpassen wollen.

Tool-Details & Features

💰 Preise: Open Source (Apache 2.0), kostenlos über Hugging Face verfügbar; Kosten entstehen für eigene Hardware oder Hosting.

⚙️ Technik: Feinabstimmung auf rund einer Million überwiegend mit GPT-4 erzeugter Einträge sowie weiterer offener Datensätze; Prompt-Format ChatML.

👥 Zielgruppe: Entwickler, KI-Forschende, Selbsthoster und Bastler.

🔗 Integrationen: Hugging Face Transformers, vLLM, SGLang sowie quantisierte Varianten (GGUF, GPTQ, AWQ) für lokale Runner.

📊 Funktionen: Chat und Anweisungsbefolgung, Textgenerierung, Systemprompts im ChatML-Format, lokale Ausführung, Weiterentwicklung als Basis eigener Modelle.

Vor- & Nachteile

✅ Vorteile: Frei nutzbar unter Apache 2.0 und lokal betreibbar; breite Unterstützung durch quantisierte Varianten.

❌ Nachteile: Älteres 7B-Modell, das neueren Modellen in Qualität und Kontextlänge unterlegen sein dürfte; Trainingsdaten stammen großteils aus GPT-4-Ausgaben, was Lizenzfragen aufwerfen kann.

Für wen geeignet?

Perfekt für Entwickler und Selbsthoster, die ein kleines offenes Chat-Modell lokal einsetzen oder weitertrainieren wollen.