Local LLM

Yerel LLM, açık ağırlıklı yapay zeka modellerini doğrudan telefonunuzda çalıştırır. Bir model indirildikten sonra sunucuya, hesaba veya internet bağlantısına gerek yoktur. Konuşmalarınız asla cihazdan ayrılmaz.

NEDEN CİHAZ ÜZERİNDE ÇALIŞIR?

Yazdığınız her komut, kendi donanımınızda çalışan bir model tarafından yanıtlanır. Hiçbir şey yüklenmez, hiçbir şey bir sunucuda kaydedilmez ve hiçbir şey başkasının modelini eğitmek için kullanılmaz. Telefonu uçak moduna alsanız bile çalışmaya devam eder.

MODELİNİZİ SEÇİN

Uygulamada, mütevazı donanımlarda rahatça çalışan 369 MB'lık SmolLM2'den daha güçlü yanıtlar için 3B'lık Llama 3.2'ye kadar yedi model mevcuttur:

• SmolLM2 360M — en hızlı, en düşük RAM

• Qwen2.5 0.5B — çok hızlı, sağlam kalite

• TinyLlama 1.1B — hafif klasik

• Llama 3.2 1B — dengeli varsayılan

• Qwen2.5 1.5B — daha güçlü mantık yürütme

• Gemma 2 2B — yüksek kalite, daha yavaş

• Llama 3.2 3B — en iyi kalite, daha fazla alan gerektirir

Her model, indirmeden önce tam indirme boyutunu gösterir. Ayrıca istediğiniz herhangi bir GGUF modeline doğrudan bağlantı yapıştırabilir ve sohbetinizden ayrılmadan istediğiniz zaman modeller arasında geçiş yapabilirsiniz.

HATIRLAYAN SOHBET

Konuşmalar cihazınızdaki özel bir veritabanına kaydedilir. Başlıklar modelin kendisi tarafından yazılır, bu nedenle geçmişinizi taramak kolaydır. Geçmişteki sohbetleri yeniden açın veya tek dokunuşla hepsini silin. Markdown, sözdizimi vurgulu kod blokları ve tek dokunuşla kopyalama özelliğiyle düzgün bir şekilde görüntülenir.

**DİĞER CİHAZLARINIZ İÇİN YEREL API**

İsteğe bağlı API hizmetini açın ve telefonunuz, yerel ağınızdaki OpenAI uyumlu bir HTTP uç noktası üzerinden modeli sunar. Herhangi bir OpenAI istemcisini (curl, Python SDK, kendi komut dosyalarınız) ona yönlendirin ve cebinizde, USB veya Wi-Fi üzerinden modelden tamamlamalar alın. Akış desteklenir. Etkinleştirene kadar kapalı kalır ve etkin olduğunda görünür bir bildirimle çalışır.

**GİZLİLİK İÇİN TASARLANDI**

• Hesap yok, oturum açma yok, reklam yok

• Sohbetler yalnızca cihazınızda saklanır

• Mesaj metni asla hiçbir yere iletilmez

• Yalnızca anonim kullanım analizi, asla mesaj içeriği

**YAPAY ZEKA ÇIKTISI HAKKINDA BİR NOT**

Yanıtlar, yerel olarak çalışan açık ağırlıklı modellerden gelir. Yanlış, güncel olmayan veya uygunsuz olabilirler ve hiç kimse tarafından incelenmezler. Lütfen tıbbi, hukuki veya mali kararlarınız için bunlara güvenmeyin.

GEREKLİLİKLER

Android 7.0 veya üzeri, 64 bit cihaz. 369 MB veya daha fazla tek seferlik model indirmesi ve seçtiğiniz modele bağlı olarak yaklaşık 1-3 GB boş RAM. Daha büyük modeller eski telefonlarda belirgin şekilde daha yavaş çalışır.