Sherpa

Реализация llama.cpp, которая пытается воссоздать чат-бота.

Это приложение представляет собой демонстрацию модели llama.cpp.

Вы можете найти исходный код этого приложения на GitHub.

Он был сделан на Flutter с использованием реализации ggerganov/llama.cpp, перекомпилированной для работы на мобильных устройствах.

Он пытается воссоздать чат-бота, который находится в автономном режиме, и работает как ChatGPT OpenAI.

Вы можете точно настроить его с помощью предварительных подсказок.

Meta предоставляет для исследований модель ламы 7B. Вам нужно загрузить его на свое устройство, переименовать в ggml-model.bin и поместить в папку загрузки, чтобы запустить это приложение.

Модели LLaMA официально распространяются компанией Meta и никогда не будут предоставляться нами.