LM Playground

LM Playground è progettato come piattaforma universale per sperimentare vari tipi di Large Language Models (LLM) sul tuo dispositivo. Consente agli utenti di scaricare diversi LLM, caricarli nell'applicazione e conversare con questi modelli. Questa configurazione consente un'esplorazione pratica delle capacità e delle distinzioni tra diversi LLM, rendendolo uno strumento prezioso per appassionati, ricercatori o chiunque sia curioso dei progressi nella tecnologia dei modelli linguistici.

Modelli attualmente supportati:

• Meta Lama 3.2 1B e 3B

• Qwen 2.5 0.5B e 1.5B

• Google Gemma2 2B e 9B

•Microsoft Phi3.5

• Maestrale 7B

• Lama 3.1 8B

Questo progetto è stato creato sulla base del progetto llama.cpp con ottimizzazione OpenCL per prestazioni migliori. L'applicazione utilizza modelli in formato GGUF con quantizzazione Q4KM, che verranno salvati nella cartella Download.