LM Playground

LM Playground ได้รับการออกแบบให้เป็นแพลตฟอร์มสากลสำหรับการทดลองกับโมเดลภาษาขนาดใหญ่ (LLM) ประเภทต่างๆ บนอุปกรณ์ของคุณ อนุญาตให้ผู้ใช้ดาวน์โหลด LLM ต่างๆ โหลดลงในแอปพลิเคชัน และสนทนากับโมเดลเหล่านี้ การตั้งค่านี้ช่วยให้สามารถสำรวจความสามารถและความแตกต่างระหว่าง LLM ต่างๆ ได้โดยตรง ทำให้เป็นเครื่องมืออันล้ำค่าสำหรับผู้ที่ชื่นชอบ นักวิจัย หรือใครก็ตามที่อยากรู้เกี่ยวกับความก้าวหน้าในเทคโนโลยีแบบจำลองภาษา

รุ่นที่รองรับในปัจจุบัน:

• Meta Llama 3.2 1B และ 3B

• คิวเวน 2.5 0.5B และ 1.5B

• Google Gemma2 2B และ 9B

• ไมโครซอฟต์ Phi3.5

• มิสทรัล 7B

• ลามะ 3.1 8B

โปรเจ็กต์นี้สร้างขึ้นจากโปรเจ็กต์ llama.cpp พร้อมการเพิ่มประสิทธิภาพ OpenCL เพื่อประสิทธิภาพที่ดีขึ้น แอปพลิเคชันใช้โมเดลรูปแบบ GGUF พร้อมการวัดปริมาณ Q4KM ซึ่งจะถูกบันทึกลงในโฟลเดอร์ดาวน์โหลด