Sherpa

Un'implementazione di llama.cpp che tenta di ricreare un chatbot

Questa app è una demo del modello llama.cpp.

Puoi trovare il codice sorgente di questa app su GitHub

È stato realizzato su Flutter utilizzando un'implementazione di ggerganov/llama.cpp ricompilata per funzionare sui dispositivi mobili.

Cerca di ricreare un chatbot offline e funziona come ChatGPT di OpenAI.

Puoi perfezionarlo con i preprompt.

Meta fornisce il modello di lama 7B per la ricerca. Devi scaricarlo sul tuo dispositivo, rinominarlo ggml-model.bin e metterlo nella cartella di download per eseguire questa app.

I modelli LLaMA sono ufficialmente distribuiti da Meta e non verranno mai forniti da noi.