PocketPal AI

github.com/a-ghorbani/pocketpal-ai ist eine quelloffene Smartphone-App für iOS und Android, mit der Sprachmodelle im GGUF-Format vollständig lokal auf dem Gerät betrieben und im Chat genutzt werden.

🛡️ Datenschutz: Open-Source-Projekt des Entwicklers a-ghorbani unter MIT-Lizenz; ein Unternehmenssitz ist nicht angegeben. Laut Projektbeschreibung verbleiben alle Daten auf dem Gerät, ohne Cloud-Upload oder externes Logging, solange keine optionalen Funktionen wie Bestenliste oder Feedback genutzt werden; ein DPA und Zertifizierungen sind nicht öffentlich dokumentiert, durch die lokale Verarbeitung ist ein AVV in der Regel nicht erforderlich.

Das Tool richtet sich an Privatnutzer, Entwickler und Datenschutzbewusste, die Sprachmodelle ohne Konto und Internetverbindung auf dem Smartphone nutzen möchten.

Tool-Details & Features

💰 Preise: Kostenlos und Open Source; Modelle werden selbst heruntergeladen, Kosten entstehen nur durch Speicherplatz und Gerätenutzung.

⚙️ Technik: On-Device-Inferenz von GGUF-Modellen wie Gemma, Qwen, Phi und Llama mit Hardwarebeschleunigung über CPU, GPU und NPU.

👥 Zielgruppe: Privatnutzer, Entwickler und Tüftler, die lokale KI auf mobilen Geräten testen wollen.

🔗 Integrationen: Anbindung an den Hugging-Face-Modell-Hub zum Laden von Modellen; Verfügbarkeit im App Store und bei Google Play.

📊 Funktionen: Chat mit lokalen Sprachmodellen, neuronale Sprachausgabe, anpassbare Personas (Pals), Werkzeugnutzung, Leistungs-Benchmarks für das Gerät, Modell-Download über Hugging Face.

Vor- & Nachteile

✅ Vorteile: Vollständig offline nutzbar ohne Konto; kostenlos, quelloffen und mit großer Modellauswahl.

❌ Nachteile: Kleine lokale Modelle erreichen nicht die Qualität großer Cloud-Modelle; Leistung und Akkulaufzeit hängen stark vom Smartphone ab.

Für wen geeignet?

Perfekt für datenschutzbewusste Nutzer und Entwickler, die Sprachmodelle lokal auf dem Smartphone ausprobieren und nutzen wollen.