Sherpa

チャットボットを再作成しようとする llama.cpp の実装

このアプリは llama.cpp モデルのデモです。

このアプリのソースコードは GitHub で見つけることができます

モバイルで動作するように再コンパイルされた ggerganov/llama.cpp の実装を使用して、Flutter で作成されました。

オフラインのチャットボットを再作成しようとし、OpenAI の ChatGPT のように機能します。

事前プロンプトで微調整できます。

Meta は、研究用に 7B ラマ モデルを提供しています。このアプリを実行するには、デバイスにダウンロードし、名前を ggml-model.bin に変更して、ダウンロード フォルダーに配置する必要があります。

LLaMA モデルは Meta によって公式に配布されており、当社から提供されることはありません。