TokForge Local AI Offline Chat

내 휴대폰에서 AI 모델을 실행하세요. TokForge는 모델을 한 번 다운로드하면 휴대폰에서 바로 채팅, 글쓰기, 사진 촬영을 할 수 있습니다. 계정이나 구독료가 필요 없으며, 모델을 다운로드한 후에는 비행기 모드에서도 작동합니다.

휴대폰에 맞는 모델. TokForge는 휴대폰 크기에 맞는 모델을 추천하며, 다운로드 전에 카탈로그에서 어떤 모델이 적합한지 확인할 수 있습니다. Qwen, Gemma, Llama, Mistral, Phi와 같은 공개 모델 중에서 선택하거나, Hugging Face를 검색하여 더 많은 모델을 찾아보세요. 원하는 작업을 말하면 TokForge가 적합한 모델을 선택하고, '휴대폰에 가장 적합', '적합', '너무 큼' 배지를 표시합니다.

내 휴대폰에 맞는 최적의 방식. TokForge는 CPU 또는 GPU에서 모델을 실행하며, 스냅드래곤을 지원하는 휴대폰에서는 NPU(휴대폰의 AI 칩)도 사용할 수 있습니다. 휴대폰 사양을 간단히 확인하여 가장 적합한 방식을 선택하며, 설정의 "내 휴대폰에서 지원되는 기능"에서 자세히 설명합니다.

필요할 때 NPU를 사용하세요. 지원되는 스냅드래곤 폰의 경우, Qwen3.5 4B와 같은 일부 모델은 CPU가 답장을 작성하는 동안 NPU가 프롬프트를 읽을 수 있습니다. 이 기능은 선택 사항이며, 일회성 패키지를 구매해야 하고, 휴대폰에서 검사를 통과한 후에만 사용됩니다.

채팅 및 역할극. chub.ai, TavernAI, SillyTavern에서 캐릭터를 만들거나 캐릭터 카드(PNG 또는 JSON)를 가져오세요. 페르소나, 설정집, 다양한 인사말, 그리고 모든 캐릭터가 자신의 목소리로 말할 수 있는 그룹 채팅을 즐길 수 있습니다.

휴대폰으로 이미지 만들기. 프롬프트를 입력하고 인터넷 연결 없이 이미지를 생성하세요. 이미지 생성은 CPU에서 실행되며, 지원되는 휴대폰의 경우 GPU 또는 NPU에서도 실행됩니다. GPU를 사용하는 휴대폰은 휴대폰 검사 후 더 많습니다.

에이전트. 텍스트 요약이나 정보 검색과 같은 간단한 작업을 에이전트에게 위임하세요. 미리 만들어진 에이전트를 사용하거나 직접 구축할 수 있습니다. 일부 내장 에이전트는 실행 시 온라인에 접속합니다. 사전 설정된 에이전트를 선택하고 실행 과정을 단계별로 지켜볼 수도 있습니다.

원하는 경우 터미널을 사용할 수 있습니다. 앱 내 별도의 폴더에 있는 명령줄 셸을 선택적으로 사용할 수 있습니다. 보안 검사를 통과한 휴대폰에서만 고급 설정에서 활성화할 수 있으며, 기본적으로 인터넷 액세스는 비활성화되어 있습니다. 모델이 명령을 실행하려는 경우 먼저 표시되며, '실행'을 탭해야만 실행됩니다.

말을 걸어보세요. 여러 코코로 음성 또는 짧은 녹음에서 복제한 음성으로 답변을 읽어줍니다. 음성 입력 기능도 포함되어 있습니다.

문서에 질문하세요. PDF, DOCX, EPUB, Markdown, CSV 또는 텍스트 파일을 불러와서 질문할 수 있습니다. 장기 기억과 지식 그래프를 통해 대화 전반에 걸쳐 중요한 내용을 추적합니다.

원하는 경우 웹 검색을 사용할 수 있습니다. 기본적으로 비활성화되어 있습니다. 활성화되면 검색 쿼리만 전송됩니다.

삭제된 모델, 선택 가능. 카탈로그에는 일부 Qwen 모델의 삭제된 버전도 있습니다. 동일한 모델이지만 거부하는 요청 수를 줄이도록 수정되었습니다. 다운로드 여부는 사용자에게 달려 있습니다.

개인 정보 보호. 채팅과 문서는 휴대폰에 저장됩니다. 계정이 필요 없으며, 자체 분석 데이터도 수집하지 않습니다. 온라인 기능에는 모델 다운로드, 웹 검색, 음성 입력, 순위표, 원격 서버(채팅 데이터 저장), 내장 날씨 및 에이전트 실행 정의 기능이 포함됩니다. 사진이나 동영상을 읽을 때 Google의 텍스트 인식 기능은 사용 통계만 Google에 전송하며, 이미지나 텍스트는 전송하지 않습니다.

벤치마킹 및 튜닝. AutoForge는 휴대폰에서 모델을 측정하고 최적의 설정을 저장합니다. leaderboard.tokforge.ai의 공개 순위표에 결과를 게시할지는 사용자에게 달려 있습니다.

채팅, 캐릭터 및 설정을 백업하고 복원할 수 있습니다. OpenAI 호환 서버를 연결할 수도 있습니다. 기본적으로 비활성화된 로컬 개발자 API입니다. 8개 언어를 지원합니다.

새로운 기능을 가장 먼저 경험하세요. 이 페이지에서 베타 프로그램에 참여하여 새 버전을 가장 먼저 받아보고 Discord에서 사용 후기를 알려주세요. 언제든지 탈퇴할 수 있습니다.

커뮤니티.

Discord: discord.gg/Acv3CBtfVm

리더보드: leaderboard.tokforge.ai

웹사이트: tokforge.ai

iPhone 및 iPad: TokForge는 TestFlight에서 공개 베타 버전으로 제공됩니다.