Sherpa

Eine Implementierung von llama.cpp, die versucht, einen Chatbot nachzubilden

Diese App ist eine Demo des Modells llama.cpp.

Den Quellcode dieser App finden Sie auf GitHub

Es wurde auf Flutter mit einer Implementierung von ggerganov/llama.cpp erstellt, die neu kompiliert wurde, um auf Mobilgeräten zu funktionieren.

Es versucht, einen Chatbot nachzubilden, der offline ist, und funktioniert wie ChatGPT von OpenAI.

Sie können es mit Preprompts feinabstimmen.

Meta stellt das 7B-Lama-Modell für die Forschung zur Verfügung. Sie müssen es auf Ihr Gerät herunterladen, es in ggml-model.bin umbenennen und in Ihrem Download-Ordner ablegen, um diese App auszuführen.

Die LLaMA-Modelle werden offiziell von Meta vertrieben und niemals von uns bereitgestellt.