Sherpa

Pelaksanaan llama.cpp yang cuba mencipta semula chatbot

Apl ini ialah demo model llama.cpp.

Anda boleh mencari kod sumber apl ini di GitHub

Ia dibuat pada Flutter menggunakan pelaksanaan ggerganov/llama.cpp yang disusun semula untuk berfungsi pada telefon bimbit.

Ia cuba mencipta semula chatbot yang berada di luar talian, dan berfungsi seperti OpenAI's ChatGPT.

Anda boleh memperhalusinya dengan preprompt.

Meta menyediakan model llama 7B untuk penyelidikan. Anda perlu memuat turunnya pada peranti anda, menamakan semula ggml-model.bin dan meletakkannya dalam folder muat turun anda untuk menjalankan aplikasi ini.

Model LLaMA diedarkan secara rasmi oleh Meta dan tidak akan diberikan oleh kami.