Sherpa

Una implementación de llama.cpp que intenta recrear un chatbot

Esta aplicación es una demostración del modelo llama.cpp.

Puede encontrar el código fuente de esta aplicación en GitHub

Se hizo en Flutter usando una implementación de ggerganov/llama.cpp recompilado para funcionar en móviles.

Intenta recrear un chatbot que está fuera de línea y funciona como ChatGPT de OpenAI.

Puede ajustarlo con indicaciones previas.

Meta proporciona el modelo de llama 7B para la investigación. Debe descargarlo en su dispositivo, cambiarle el nombre a ggml-model.bin y ponerlo en su carpeta de descargas para ejecutar esta aplicación.

Los modelos LLaMA son distribuidos oficialmente por Meta y nunca serán proporcionados por nosotros.