TokForge Local AI Offline Chat

Запускайте модели ИИ на своем телефоне. TokForge загружает модель один раз, а затем общается, пишет и делает фотографии прямо на телефоне. Никакой учетной записи и подписки, и после загрузки моделей приложение работает в режиме полета.

Модель, подходящая для вашего телефона. TokForge предлагает модель подходящего размера для вашего телефона, а каталог показывает, что подходит, прежде чем вы загрузите модель. Выбирайте из открытых моделей, таких как Qwen, Gemma, Llama, Mistral и Phi, или найдите Hugging Face, чтобы найти больше. Скажите, что вы хотите сделать, и приложение выберет модель, отметив ее значками «Лучше всего подходит для вашего телефона», «Подходит» и «Слишком большой».

Ваш телефон, ваш маршрут. TokForge запускает модели на ЦП или ГП, а на поддерживаемых телефонах Snapdragon может использовать НПУ, чип ИИ телефона. Короткие проверки на вашем телефоне выбирают наиболее подходящий маршрут, а карточка «Что получает ваш телефон» в настройках объясняет это простыми словами.

NPU, когда вам это нужно. На поддерживаемых телефонах Snapdragon некоторые модели, такие как Qwen3.5 4B, могут считывать ваш запрос на NPU, пока CPU записывает ответ. Это необязательная функция, требующая одноразового использования, и она применяется только после проверки на вашем телефоне.

Чат и ролевые игры. Создавайте персонажей или импортируйте карточки персонажей (PNG или JSON) с chub.ai, TavernAI и SillyTavern. Персоны, книги знаний, альтернативные приветствия и групповые чаты, где каждый персонаж может говорить своим собственным голосом.

Создавайте фотографии на своем телефоне. Введите запрос и получите изображение без подключения к интернету. Генерация изображений выполняется на CPU, а на поддерживаемых телефонах — на GPU или NPU. Доступ к GPU возможен на большем количестве телефонов после проверки на вашем телефоне.

Агенты. Передайте им небольшую задачу, например, суммирование текста или поиск информации. Используйте готового агента или создайте своего; некоторые встроенные агенты подключаются к сети во время выполнения. Начните с предустановленного варианта и наблюдайте за каждым шагом в процессе выполнения.

Терминал, если он вам нужен. Дополнительная оболочка командной строки в отдельной папке внутри приложения. Она остается выключенной, пока вы не включите ее в расширенных настройках на телефонах, прошедших проверку безопасности, а доступ к интернету по умолчанию отключен. Когда модель хочет выполнить команду, вы видите ее первой, и она выполняется только после нажатия кнопки «Выполнить».

Поговорите с ней. Ответы можно зачитывать вслух несколькими голосами Kokoro или голосом, клонированным из короткой записи. Голосовой ввод включен.

Задавайте вопросы своим документам. Вставьте PDF-файл, DOCX, EPUB, Markdown, CSV или текстовый файл и задавайте вопросы о нем. Долговременная память и граф знаний отслеживают важные моменты в ходе разговоров.

Веб-поиск, когда он вам нужен. По умолчанию отключен. При включении отправляется только поисковый запрос.

Удаленные модели, на ваш выбор. В каталоге также представлены удаленные версии некоторых моделей Qwen: та же модель, отредактированная для обработки меньшего количества запросов. Вы сами решаете, скачивать ли одну из них.

Конфиденциальность. Чаты и документы остаются на вашем телефоне. Никакой учетной записи, никакой собственной аналитики. Онлайн-функции включают загрузку моделей, веб-поиск, голосовой ввод с телефона, таблицу лидеров, удаленный сервер (он получает ваш чат), а также встроенные агенты погоды и определения параметров при их запуске. Когда читается фото или видео, распознавание текста Google отправляет статистику использования, а не ваши изображения или текст, в Google.

Проверка производительности и настройка. AutoForge измеряет модели на вашем телефоне и сохраняет лучшие настройки. Публикация результата в общедоступной таблице лидеров по адресу leaderboard.tokforge.ai — на ваше усмотрение.

Создавайте резервные копии и восстанавливайте свои чаты, персонажей и настройки. Подключите собственный сервер, совместимый с OpenAI. Локальный API для разработчиков, по умолчанию отключен. Доступен на 8 языках.

Получайте новые функции первыми. Присоединяйтесь к бета-программе с этой страницы, чтобы первыми получать новые версии и рассказывать нам о своих впечатлениях в нашем Discord. Выйти можно в любое время.

Сообщество.

Discord: discord.gg/Acv3CBtfVm

Таблица лидеров: leaderboard.tokforge.ai

Веб: tokforge.ai

iPhone и iPad: TokForge доступен в виде публичной бета-версии на TestFlight.