Local LLM

LLM lokal menjalankan model AI open-weight langsung di ponsel Anda. Tidak ada server, tidak ada akun, dan tidak ada koneksi internet yang dibutuhkan setelah model diunduh. Percakapan Anda tidak pernah meninggalkan perangkat.

MENGAPA DI PERANGKAT?

Setiap perintah yang Anda ketik dijawab oleh model yang berjalan di perangkat keras Anda sendiri. Tidak ada yang diunggah, tidak ada yang dicatat di server, dan tidak ada yang digunakan untuk melatih model siapa pun. Aktifkan mode pesawat di ponsel Anda dan tetap berfungsi.

PILIH MODEL ANDA

Tujuh model tersedia di dalam aplikasi, mulai dari SmolLM2 369 MB yang berjalan dengan nyaman pada perangkat keras sederhana hingga Llama 3.2 3B untuk jawaban yang lebih kuat:

• SmolLM2 360M — tercepat, RAM terendah

• Qwen2.5 0.5B — sangat cepat, kualitas solid

• TinyLlama 1.1B — klasik ringan

• Llama 3.2 1B — default seimbang

• Qwen2.5 1.5B — penalaran lebih kuat

• Gemma 2 2B — kualitas tinggi, lebih lambat

• Llama 3.2 3B — kualitas terbaik, membutuhkan ruang lebih besar

Masing-masing menunjukkan ukuran unduhan yang tepat sebelum Anda mengunduh. Anda juga dapat menempelkan tautan langsung ke model GGUF mana pun yang Anda sukai, dan beralih model kapan saja tanpa meninggalkan obrolan Anda.

OBROLAN YANG MENGINGAT

Percakapan disimpan dalam basis data pribadi di perangkat Anda. Judul ditulis oleh model itu sendiri, sehingga riwayat Anda mudah dipindai. Buka kembali obrolan lama apa pun, atau hapus semuanya dalam satu ketukan. Markdown ditampilkan dengan benar, dengan blok kode yang disorot sintaksis dan salin sekali ketuk.

API LOKAL UNTUK PERANGKAT LAIN ANDA

Aktifkan layanan API opsional dan ponsel Anda akan menyajikan model melalui titik akhir HTTP yang kompatibel dengan OpenAI di jaringan lokal Anda. Arahkan klien OpenAI apa pun ke sana — curl, SDK Python, skrip Anda sendiri — dan dapatkan penyelesaian dari model di saku Anda, melalui USB atau Wi-Fi. Streaming didukung. Fitur ini tetap nonaktif hingga Anda mengaktifkannya, dan berjalan dengan notifikasi yang terlihat saat aktif.

DIRANCANG UNTUK PRIVASI

• Tanpa akun, tanpa masuk, tanpa iklan

• Obrolan hanya disimpan di perangkat Anda

• Teks pesan tidak pernah dikirim ke mana pun

• Hanya analitik penggunaan anonim, tidak pernah konten pesan

CATATAN TENTANG OUTPUT AI

Respons berasal dari model open-weight yang berjalan secara lokal. Informasi tersebut bisa salah, usang, atau tidak sesuai, dan tidak ditinjau oleh siapa pun. Mohon jangan mengandalkan informasi tersebut untuk keputusan medis, hukum, atau keuangan.

PERSYARATAN

Android 7.0 atau lebih baru, perangkat 64-bit. Unduhan model satu kali sebesar 369 MB atau lebih, dan sekitar 1-3 GB RAM kosong tergantung pada model yang Anda pilih. Model yang lebih besar akan terasa lebih lambat pada ponsel lama.