TokForge Local AI Offline Chat

KI-Modelle auf Ihrem Smartphone ausführen. TokForge lädt ein Modell einmalig herunter und ermöglicht anschließend Chatten, Schreiben und Fotografieren direkt auf Ihrem Smartphone. Kein Konto, kein Abo erforderlich. Nach dem Download funktioniert die App sogar im Flugmodus.

Ein passendes Modell für Ihr Smartphone. TokForge schlägt Ihnen ein Modell in der optimalen Größe für Ihr Smartphone vor. Der Katalog zeigt Ihnen vor dem Download, welche Modelle passen. Wählen Sie aus offenen Modellen wie Qwen, Gemma, Llama, Mistral und Phi oder suchen Sie nach „Hugging Face“, um weitere zu entdecken. Im Beta-Programm: Geben Sie einfach Ihre gewünschte Funktion an, und TokForge wählt das passende Modell aus. Die Symbole „Optimal für Ihr Smartphone“, „Passt“ und „Zu groß“ werden angezeigt.

Ihr Smartphone, Ihre Route. TokForge nutzt Modelle auf der CPU oder GPU. Auf unterstützten Snapdragon-Smartphones kann die App die NPU, den KI-Chip des Smartphones, verwenden. Im Beta-Programm: Kurze Überprüfungen auf Ihrem Smartphone ermitteln die optimale Route. Die Einstellungen erklären Ihnen die Funktionen Ihres Smartphones in einfachen Worten.

Die NPU, wann immer du sie brauchst. Im Beta-Programm: Auf unterstützten Snapdragon-Smartphones können einige Modelle, wie z. B. das Qwen3.5 4B, deine Eingabe auf der NPU lesen, während die CPU die Antwort schreibt. Die Funktion ist optional und wird mit einem einmaligen Paket aktiviert. Sie wird erst nach einer Überprüfung auf deinem Smartphone genutzt.

Chat und Rollenspiel. Erstelle Charaktere oder importiere Charakterkarten (PNG oder JSON) von chub.ai, TavernAI und SillyTavern. Personas, Hintergrundgeschichten, alternative Begrüßungen und Gruppenchats, in denen jeder Charakter seine eigene Stimme hat.

Bilder auf deinem Smartphone erstellen. Gib eine Eingabe ein und erhalte ein Bild – auch ohne Internetverbindung. Die Bildgenerierung läuft auf der CPU und auf unterstützten Smartphones auf der GPU oder der NPU. Im Beta-Programm: Die GPU-basierte Bildgenerierung wird nach einer Überprüfung auf deinem Smartphone auf mehr Smartphones verfügbar sein.

Agenten. Delegieren Sie kleine Aufgaben, wie das Zusammenfassen eines Textes oder das Nachschlagen von Informationen. Nutzen Sie einen vorgefertigten Agenten oder erstellen Sie Ihren eigenen. Einige integrierte Agenten gehen beim Ausführen online. Im Beta-Programm: Starten Sie mit einer Voreinstellung und beobachten Sie jeden Schritt.

Ein Terminal, falls gewünscht. Im Beta-Programm: Eine optionale Kommandozeilen-Shell in einem eigenen Ordner innerhalb der App. Sie bleibt deaktiviert, bis Sie sie in den erweiterten Einstellungen aktivieren (auf Geräten, die den Sicherheitscheck bestehen). Der Internetzugang ist standardmäßig deaktiviert. Wenn ein Modell einen Befehl ausführen möchte, wird Ihnen dies zuerst angezeigt. Die Ausführung erfolgt erst nach Tippen auf „Ausführen“.

Sprechen Sie mit dem Modell. Antworten können in verschiedenen Kokoro-Stimmen oder mit einer Stimme aus einer kurzen Aufnahme vorgelesen werden. Spracheingabe ist möglich.

Fragen Sie Ihre Dokumente. Fügen Sie eine PDF-, DOCX-, EPUB-, Markdown-, CSV- oder Textdatei hinzu und stellen Sie Fragen dazu. Langzeitgedächtnis und Wissensgraph speichern die wichtigsten Informationen aus verschiedenen Konversationen.

Websuche, wann immer Sie sie brauchen. Standardmäßig deaktiviert. Ist sie aktiviert, wird nur die Suchanfrage gesendet.

Optimierte Modelle, Ihre Wahl. Der Katalog listet auch optimierte Versionen einiger Qwen-Modelle auf: dasselbe Modell, nur mit weniger Anfragen. Sie entscheiden, ob Sie ein solches Modell herunterladen möchten.

Datenschutz. Chats und Dokumente bleiben auf Ihrem Smartphone. Kein Konto, keine eigenen Analysen. Online-Funktionen umfassen Modell-Downloads, Websuche, die Spracheingabe Ihres Smartphones, die Bestenliste, einen Remote-Server (der Ihre Chats empfängt) sowie die integrierte Wetterfunktion und die Möglichkeit, Agenten zu definieren, die durch Nachrichten ausgelöst werden. Beim Vorlesen eines Fotos oder Videos sendet die Texterkennung von Google Nutzungsstatistiken, nicht Ihre Bilder oder Texte, an Google.

Benchmarking und Optimierung. AutoForge misst Modelle auf Ihrem Smartphone und speichert die besten Einstellungen. Ob du deine Ergebnisse auf der öffentlichen Bestenliste unter leaderboard.tokforge.ai veröffentlichst, liegt ganz bei dir.

Sichere und stelle deine Chats, Charaktere und Einstellungen wieder her. Verbinde deinen eigenen OpenAI-kompatiblen Server. Eine lokale Entwickler-API ist standardmäßig deaktiviert. Verfügbar in 8 Sprachen.

Erhalte neue Funktionen als Erster. Melde dich über diese Seite für das Beta-Programm an, um neue Versionen als Erster zu erhalten und uns in unserem Discord-Server Feedback zu geben. Du kannst jederzeit austreten.

Community.

Discord: discord.gg/Acv3CBtfVm

Bestenliste: leaderboard.tokforge.ai

Web: tokforge.ai

iPhone und iPad: TokForge ist als öffentliche Betaversion auf TestFlight verfügbar.