◆ KI-Freelancer? Werde eines der ersten 2.000 Gründungsmitglieder: 0 % Provision, 60 Tage Advanced (starte, wann du willst) und eigenes Titelbild für immer. KI-Freelancer? 0 % Provision + 60 Tage Advanced Jetzt Platz sichern →Mehr →
KI verbindenKI

Suche direkt aus deiner KI heraus nach KI-Tools, KI-Firmen und KI-Freelancern auf KI-Radar24.

So funktioniert der KI-Radar24-Connector
Inserat hinzufügen
LiteLLM

LiteLLM

Open-Source-KI-Gateway mit einheitlicher API für über 100 Modelle

Beschreibung

litellm.ai ist ein quelloffenes KI-Gateway und LLM-Proxy von BerriAI, das über eine OpenAI-kompatible Schnittstelle Zugriff auf mehr als 140 Modellanbieter bietet und dabei Kosten, Zugriffe und Lastverteilung zentral steuert.

Das Tool richtet sich an Entwicklerteams und Plattform-Teams, die viele Sprachmodelle über einen zentralen Zugang bereitstellen und kontrollieren wollen.

Tags

  • KI Governance
  • API
  • Infrastruktur
  • Kostenlos nutzbar
  • Open Source

Zuletzt aktualisiert: November 2026 · Fehler melden · Abzeichen für deine Website

Auf einen Blick

Stand: November 2026
🛡️Datenschutz

Anbieter mit Sitz in den USA (BerriAI Incorporated). Das Gateway lässt sich selbst betreiben, auch in abgeschotteten Umgebungen; laut Anbieter sendet die selbst gehostete Variante keine Telemetrie. Zu EU-Hosting, DPA und Zertifizierungen der Enterprise-Variante sind auf den geprüften Seiten keine Details dokumentiert; für personenbezogene Daten sollte vorab ein AVV/DPA geprüft werden.

💰
Preismodell

Open Source unter MIT-Lizenz kostenlos nutzbar; Enterprise-Variante mit SSO, Rollenrechten, Audit-Protokollen und Support nach individuellem Angebot.

👥
Zielgruppe
EntwicklerKI-Plattform-TeamsIT-Abteilungen und Unternehmen mit mehreren Modellanbietern
⚙️
Technik

Gateway mit Python-SDK und Proxy-Server, laut Anbieter mit Rust-Kern, betrieben mit PostgreSQL und Redis; Bereitstellung per Docker, Helm und Terraform.

🔗
Integrationen

Über 140 Modellanbieter (u. a. Bedrock, Azure, OpenAI, Anthropic, Vertex AI, vLLM), SSO sowie Anbindung an Secret-Speicher wie AWS Secrets Manager, Vault, Azure Key Vault

📊
Funktionen
Einheitliche OpenAI-kompatible APIKostenverfolgung pro SchlüsselTeam und NutzerBudgetgrenzen und RatenbegrenzungLastverteilung und CachingGuardrails wie PII-MaskierungErkennung von Prompt-Injection

✅ Vorteile

  • Ein Zugang für viele Modelle vereinfacht Wechsel und Kostenkontrolle
  • Quelloffen und selbst hostbar, auch ohne Internetanbindung

❌ Nachteile

  • Eigener Betrieb erfordert Infrastruktur und Wartung (u. a. PostgreSQL und Redis)
  • Wichtige Funktionen wie SSO und Audit-Protokolle sind der kostenpflichtigen Enterprise-Variante vorbehalten
🎯
Für wen geeignet?

Gut geeignet für Entwicklungs- und Plattform-Teams, die viele Sprachmodelle hinter einer einheitlichen Schnittstelle mit Kostenkontrolle und Governance betreiben wollen.

Angaben laut Anbieter, Stand November 2026, ohne Gewähr. Fehler entdeckt? Melden

Bewertungen

Noch keine Bewertungen. Sei der Erste!

Bewertung schreiben

Deine E-Mail wird nicht veröffentlicht.