◆ KI-Freelancer? Werde eines der ersten 2.000 Gründungsmitglieder: 0 % Provision, 60 Tage Advanced (starte, wann du willst) und eigenes Titelbild für immer. KI-Freelancer? 0 % Provision + 60 Tage Advanced Jetzt Platz sichern →Mehr →
KI verbindenKI

Suche direkt aus deiner KI heraus nach KI-Tools, KI-Firmen und KI-Freelancern auf KI-Radar24.

So funktioniert der KI-Radar24-Connector
Inserat hinzufügen
Promptfoo

Promptfoo

Open-Source-Testframework und Red-Teaming für KI-Anwendungen

Beschreibung

promptfoo.dev ist eine KI-Sicherheitsplattform mit Open-Source-Variante, die Prompts, Modelle und RAG-Pipelines testet und Schwachstellen wie Prompt Injection oder Datenabfluss per automatischem Red Teaming aufdeckt.

Das Tool richtet sich an Entwicklungs- und Sicherheitsteams, die KI-Anwendungen vor dem Produktivbetrieb auf Schwachstellen und Qualität prüfen wollen.

Tags

  • Risikomanagement
  • Programmierung
  • Cybersecurity
  • Kostenlos nutzbar
  • Lokal nutzbar
  • Open Source

Zuletzt aktualisiert: November 2026 · Fehler melden · Abzeichen für deine Website

Auf einen Blick

Stand: November 2026
🛡️Datenschutz

Anbieter mit Sitz in den USA (Promptfoo, Inc.). Auf der Website werden SOC-2- und ISO-27001-Nachweise angezeigt; laut Datenschutzhinweis werden Daten nicht verkauft oder gehandelt, und bei lokaler Nutzung der Kommandozeile laufen LLM-Aufrufe direkt zum jeweiligen Modellanbieter. Ein DPA, EU-Hosting und der Umgang mit Kundendaten für Training sind nicht öffentlich dokumentiert; für personenbezogene Daten sollte vorab ein AVV/DPA geprüft werden.

💰
Preismodell

Open Source (kostenlos nutzbar) sowie kommerzielle Enterprise-Angebote auf Anfrage.

👥
Zielgruppe
EntwicklerSecurity-Teams und UnternehmenDie KI-Anwendungen absichern müssen
⚙️
Technik

Läuft als lokales Kommandozeilen-Werkzeug oder in CI/CD-Pipelines und unterstützt Cloud- und On-Premise-Betrieb.

🔗
Integrationen

CI/CD-Pipelines, GitHub, GitLab, Jenkins, MCP- und Agenten-Frameworks sowie Anbindung an gängige LLM-Anbieter

📊
Funktionen
Automatisiertes Red TeamingEvaluierung von PromptsModellen und RAG-PipelinesGuardrails gegen AngriffeCode-Scanning in IDECI/CDMCP-ProxyModellsicherheitsprüfung

✅ Vorteile

  • Quelloffene Variante und lokale Ausführung ermöglichen Tests ohne Datenweitergabe an den Anbieter
  • Gut in CI/CD-Abläufe integrierbar

❌ Nachteile

  • Einarbeitung in Konfiguration und Testfälle nötig
  • Enterprise-Funktionen und Preise nur auf Anfrage einsehbar
🎯
Für wen geeignet?

Eine gute Wahl für Entwicklungs- und Sicherheitsteams, die KI-Anwendungen systematisch testen und gegen Angriffe absichern wollen.

Angaben laut Anbieter, Stand November 2026, ohne Gewähr. Fehler entdeckt? Melden

Bewertungen

Noch keine Bewertungen. Sei der Erste!

Bewertung schreiben

Deine E-Mail wird nicht veröffentlicht.