LM Playground

LM پلے گراؤنڈ کو آپ کے آلے پر مختلف قسم کے Large Language Models (LLMs) کے ساتھ تجربہ کرنے کے لیے ایک عالمگیر پلیٹ فارم کے طور پر ڈیزائن کیا گیا ہے۔ یہ صارفین کو مختلف LLM ڈاؤن لوڈ کرنے، انہیں ایپلی کیشن پر لوڈ کرنے اور ان ماڈلز کے ساتھ بات چیت کرنے کی اجازت دیتا ہے۔ یہ سیٹ اپ مختلف LLMs کے درمیان صلاحیتوں اور امتیازات کو تلاش کرنے کی اجازت دیتا ہے، جو اسے پرجوشوں، محققین، یا لینگویج ماڈل ٹیکنالوجی میں ہونے والی ترقی کے بارے میں دلچسپی رکھنے والوں کے لیے ایک انمول ٹول بناتا ہے۔

فی الحال تعاون یافتہ ماڈلز:

• Meta Llama 3.2 1B اور 3B

• Qwen 2.5 0.5B اور 1.5B

• Google Gemma2 2B اور 9B

• Microsoft Phi3.5

Mistral 7B

• Llama 3.1 8B

یہ پروجیکٹ llama.cpp پروجیکٹ کی بنیاد پر بہتر کارکردگی کے لیے OpenCL آپٹیمائزیشن کے ساتھ بنایا گیا تھا۔ ایپلیکیشن Q4KM کوانٹائزیشن کے ساتھ GGUF-فارمیٹ ماڈلز کا استعمال کرتی ہے، جسے ڈاؤن لوڈز فولڈر میں محفوظ کیا جائے گا۔