LM Playground

O LM Playground foi projetado como uma plataforma universal para experimentar vários tipos de Large Language Models (LLMs) em seu dispositivo. Ele permite que os usuários baixem diferentes LLMs, carreguem-nos no aplicativo e conversem com esses modelos. Esta configuração permite uma exploração prática das capacidades e distinções entre diferentes LLMs, tornando-se uma ferramenta inestimável para entusiastas, pesquisadores ou qualquer pessoa curiosa sobre os avanços na tecnologia de modelos de linguagem.

Modelos atualmente suportados:

• Meta Lhama 3.2 1B e 3B

• Qwen 2,5 0,5B e 1,5B

• Google Gemma2 2B e 9B

•Microsoft Phi3.5

• Mistral 7B

• Lhama 3.1 8B

Este projeto foi construído com base no projeto llama.cpp com otimização OpenCL para melhor desempenho. O aplicativo utiliza modelos no formato GGUF com quantização Q4KM, que serão salvos na pasta Downloads.