Sherpa

Implementacja llama.cpp, która próbuje odtworzyć chatbota

Ta aplikacja jest demonstracją modelu llama.cpp.

Kod źródłowy tej aplikacji można znaleźć na GitHub

Został stworzony na Flutterze przy użyciu implementacji ggerganov/llama.cpp przekompilowanej do pracy na urządzeniach mobilnych.

Próbuje odtworzyć chatbota, który jest offline i działa jak ChatGPT OpenAI.

Możesz to dostroić za pomocą prepromptów.

Meta zapewnia model lamy 7B do badań. Aby uruchomić tę aplikację, musisz ją pobrać na swoje urządzenie, zmienić jej nazwę na ggml-model.bin i umieścić w folderze pobierania.

Modele LLaMA są oficjalnie dystrybuowane przez Meta i nigdy nie będą dostarczane przez nas.