Sherpa

챗봇을 재생성하려는 llama.cpp의 구현

이 앱은 llama.cpp 모델의 데모입니다.

GitHub에서 이 앱의 소스 코드를 찾을 수 있습니다.

모바일에서 작동하도록 재컴파일된 ggerganov/llama.cpp 구현을 사용하여 Flutter에서 만들어졌습니다.

OpenAI의 ChatGPT처럼 작동하는 오프라인 상태의 챗봇을 재생성하려고 시도합니다.

사전 프롬프트를 사용하여 미세 조정할 수 있습니다.

Meta는 연구용 7B 라마 모델을 제공합니다. 이 앱을 실행하려면 장치에 다운로드하고 이름을 ggml-model.bin으로 변경한 다음 다운로드 폴더에 넣어야 합니다.

LLaMA 모델은 Meta에서 공식적으로 배포하며 절대로 제공되지 않습니다.