LM Playground

Zanurz się w przyszłość sztucznej inteligencji bezpośrednio na swoim urządzeniu (Gemma, Llama 3, Phi 3, Mistral))

LM Playground został zaprojektowany jako uniwersalna platforma do eksperymentowania z różnymi typami dużych modeli językowych (LLM) na Twoim urządzeniu. Umożliwia użytkownikom pobieranie różnych LLM, ładowanie ich do aplikacji i rozmowę z tymi modelami. Taka konfiguracja pozwala na praktyczną eksplorację możliwości i różnic między różnymi LLM, co czyni go nieocenionym narzędziem dla entuzjastów, badaczy i wszystkich zainteresowanych postępem w technologii modeli językowych.

Aktualnie obsługiwane modele:

• Google Gemma 1.1 3B i 7B

• MetaLama 3 7B

• Microsoft Phi 3B

• Mistral 7B

Projekt ten został zbudowany w oparciu o projekt llama.cpp z optymalizacją OpenCL dla lepszej wydajności. Aplikacja wykorzystuje modele w formacie GGUF z kwantyzacją Q4KM, które zostaną zapisane w folderze Pobrane.