LM Playground

LM Playground به عنوان یک پلت فرم جهانی برای آزمایش انواع مدل های زبان بزرگ (LLM) در دستگاه شما طراحی شده است. این به کاربران امکان می دهد LLM های مختلف را دانلود کنند، آنها را روی برنامه بارگذاری کنند و با این مدل ها گفتگو کنند. این راه‌اندازی امکان کاوش عملی در قابلیت‌ها و تمایزات بین LLM‌های مختلف را فراهم می‌کند و آن را به ابزاری ارزشمند برای علاقه‌مندان، محققان یا هر کسی که کنجکاو در مورد پیشرفت‌های فناوری مدل‌های زبانی است تبدیل می‌کند.

مدل های پشتیبانی شده در حال حاضر:

• Google Gemma2 9B

• Meta Llama 3 7B

• Microsoft Phi 3.1B

• Mistral 7B

• Qwen2 0.5B

این پروژه بر اساس پروژه llama.cpp با بهینه سازی OpenCL برای عملکرد بهتر ساخته شده است. این برنامه از مدل های با فرمت GGUF با کوانتیزه Q4KM استفاده می کند که در پوشه دانلودها ذخیره می شود.