پیاده سازی llama.cpp که سعی می کند یک ربات چت را دوباره ایجاد کند
این برنامه نمایشی از مدل llama.cpp است.
می توانید کد منبع این برنامه را در GitHub پیدا کنید
این در Flutter با استفاده از پیاده سازی ggerganov/llama.cpp که برای کار بر روی تلفن همراه دوباره کامپایل شده است ساخته شده است.
سعی می کند یک ربات چت آفلاین ایجاد کند و مانند ChatGPT OpenAI کار می کند.
شما می توانید آن را با دستورات اولیه تنظیم کنید.
متا مدل لاما 7B را برای تحقیق ارائه می کند. برای اجرای این برنامه باید آن را در دستگاه خود دانلود کنید، نام آن را به ggml-model.bin تغییر دهید و در پوشه دانلود خود قرار دهید.
مدل های LLaMA به طور رسمی توسط متا توزیع می شوند و هرگز توسط ما ارائه نمی شوند.