Sherpa

Implementasi llama.cpp yang mencoba membuat ulang chatbot

Aplikasi ini adalah demo dari model llama.cpp.

Anda dapat menemukan kode sumber aplikasi ini di GitHub

Itu dibuat di Flutter menggunakan implementasi ggerganov/llama.cpp yang dikompilasi ulang agar berfungsi di ponsel.

Ia mencoba membuat ulang chatbot yang offline, dan berfungsi seperti ChatGPT OpenAI.

Anda dapat menyempurnakannya dengan preprompts.

Meta menyediakan model llama 7B untuk penelitian. Anda perlu mengunduhnya di perangkat Anda, ganti namanya ggml-model.bin dan letakkan di folder unduhan Anda untuk menjalankan aplikasi ini.

Model LLaMA didistribusikan secara resmi oleh Meta dan tidak akan pernah disediakan oleh kami.