Sherpa

Une implémentation de llama.cpp qui tente de recréer un chatbot

Cette application est une démo du modèle llama.cpp.

Vous pouvez trouver le code source de cette application sur GitHub

Il a été réalisé sur Flutter en utilisant une implémentation de ggerganov/llama.cpp recompilé pour fonctionner sur les mobiles.

Il essaie de recréer un chatbot qui est hors ligne et fonctionne comme ChatGPT d'OpenAI.

Vous pouvez l'affiner avec des pré-invites.

Meta fournit le modèle de lama 7B pour la recherche. Vous devez le télécharger sur votre appareil, le renommer ggml-model.bin et le mettre dans votre dossier de téléchargement pour exécuter cette application.

Les modèles LLaMA sont officiellement distribués par Meta et ne seront jamais fournis par nous.