◆ KI-Freelancer? Werde eines der ersten 2.000 Gründungsmitglieder: 0 % Provision, 60 Tage Advanced (starte, wann du willst) und eigenes Titelbild für immer. KI-Freelancer? 0 % Provision + 60 Tage Advanced Jetzt Platz sichern →Mehr →
KI verbindenKI

Suche direkt aus deiner KI heraus nach KI-Tools, KI-Firmen und KI-Freelancern auf KI-Radar24.

So funktioniert der KI-Radar24-Connector
Inserat hinzufügen
KServe

KServe

Kubernetes-native Open-Source-Plattform für Modell-Serving

Beschreibung

kserve.github.io ist eine Kubernetes-native Plattform zum Bereitstellen von Machine-Learning-Modellen mit standardisierten Protokollen für klassische und generative KI, einschließlich LLM-Serving.

Das Tool richtet sich an Plattform- und ML-Teams, die Modelle auf Kubernetes einheitlich bereitstellen und skalieren wollen.

Tags

  • Machine Learning
  • Cloud-Computing
  • Infrastruktur
  • Kostenlos nutzbar
  • Open Source

Zuletzt aktualisiert: November 2026 · Fehler melden · Abzeichen für deine Website

Auf einen Blick

Stand: November 2026
🛡️Datenschutz

Kein einzelner Anbieter mit Firmensitz: KServe ist ein quelloffenes Community-Projekt unter Apache-2.0-Lizenz und laut Projektseite als Incubating-Projekt der CNCF unter dem Dach der Linux Foundation. Es gibt keinen zentralen Cloud-Dienst; die Software läuft in der eigenen Kubernetes-Umgebung, sodass Daten dort verbleiben und Datenschutz in der Verantwortung des Betreibers liegt.

💰
Preismodell

Open Source (Apache 2.0) und kostenlos nutzbar; Kosten entstehen für Infrastruktur und Betrieb.

👥
Zielgruppe
ML-EngineersDevOpsPlattformteams
⚙️
Technik

Kubernetes-Ressource InferenceService mit Control Plane und Data Plane, Autoscaling inklusive Scale-to-Zero und standardisiertem Inferenzprotokoll.

🔗
Integrationen

TensorFlow, PyTorch, Scikit-learn, XGBoost, ONNX und Hugging Face-Modelle, Für LLMs optimierte Backends wie vLLM und llm-d mit OpenAI-kompatiblen Protokollen

📊
Funktionen
Modell-Deployment per InferenceServiceAutoscalingCanary-Rollouts und A/B-TestsModell-CachingLLM-Serving mit GPU-BeschleunigungInferenceGraph für Pipelines

✅ Vorteile

  • Einheitliche Schnittstelle für viele Frameworks
  • Offene Governance und keine Lizenzkosten

❌ Nachteile

  • Erfordert Kubernetes-Erfahrung und eigenen Betrieb
  • Kein Anbieter-Support im Standardumfang
🎯
Für wen geeignet?

Gut geeignet für Teams mit Kubernetes-Umgebung, die klassische und generative Modelle standardisiert bereitstellen wollen.

Angaben laut Anbieter, Stand November 2026, ohne Gewähr. Fehler entdeckt? Melden

Bewertungen

Noch keine Bewertungen. Sei der Erste!

Bewertung schreiben

Deine E-Mail wird nicht veröffentlicht.