LM Playground

LM Playground direka sebagai platform universal untuk bereksperimen dengan pelbagai jenis Model Bahasa Besar (LLM) pada peranti anda. Ia membolehkan pengguna memuat turun LLM yang berbeza, memuatkannya ke dalam aplikasi dan bercakap dengan model ini. Persediaan ini membolehkan penerokaan tangan ke atas keupayaan dan perbezaan antara LLM yang berbeza, menjadikannya alat yang tidak ternilai untuk peminat, penyelidik atau sesiapa sahaja yang ingin tahu tentang kemajuan dalam teknologi model bahasa.

Model yang disokong pada masa ini:

• Google Gemma2 9B

• Meta Llama 3 7B

• Microsoft Phi 3.1B

• Mistral 7B

• Qwen2 0.5B

Projek ini dibina berdasarkan projek llama.cpp dengan pengoptimuman OpenCL untuk prestasi yang lebih baik. Aplikasi ini menggunakan model format GGUF dengan kuantiti Q4KM, yang akan disimpan ke folder Muat Turun.