Sherpa

嘗試重新創建聊天機器人的 llama.cpp 的實現

這個應用程序是 llama.cpp 模型的演示。

你可以在 GitHub 上找到這個應用程序的源代碼

它是在 Flutter 上使用重新編譯的 ggerganov/llama.cpp 實現在手機上運行的。

它試圖重建一個離線的聊天機器人，並且像 OpenAI 的 ChatGPT 一樣工作。

您可以使用預提示對其進行微調。

Meta 提供了用於研究的 7B llama 模型。您需要將其下載到您的設備上，將其重命名為 ggml-model.bin 並將其放入您的下載文件夾中以運行該應用程序。

LLaMA 模型由 Meta 官方發布，我們永遠不會提供。