LM Playground

LM Playground is ontworpen als een universeel platform om te experimenteren met verschillende soorten Large Language Models (LLM's) op uw apparaat. Hiermee kunnen gebruikers verschillende LLM's downloaden, in de applicatie laden en met deze modellen communiceren. Deze opstelling maakt een praktische verkenning van de mogelijkheden en verschillen tussen verschillende LLM's mogelijk, waardoor het een hulpmiddel van onschatbare waarde is voor enthousiastelingen, onderzoekers of iedereen die nieuwsgierig is naar de vooruitgang in taalmodeltechnologie.

Momenteel ondersteunde modellen:

• Meta Lama 3.2 1B en 3B

• Qwen 2,5 0,5B en 1,5B

• Google Gemma2 2B en 9B

•Microsoft Phi3.5

• Mistral 7B

• Lama 3.1 8B

Dit project is gebouwd op basis van het llama.cpp-project met OpenCL-optimalisatie voor betere prestaties. De applicatie maakt gebruik van modellen in GGUF-formaat met Q4KM-kwantisering, die worden opgeslagen in de map Downloads.