รัน LLM ในเครื่องต้องใช้คอมพิวเตอร์แบบไหน?
มีการ์ดจอดีที่สุด แต่คอมพิวเตอร์ทั่วไปก็ใช้ได้ หลังติดตั้ง โหนดจะบอกชัด ๆ ว่าเครื่องนี้ทำอะไรได้บ้าง
สเปกที่แนะนำ
| อุปกรณ์ | ระดับที่แนะนำ | ทำได้ | |
|---|---|---|---|
| การ์ดจอ NVIDIA (VRAM 8GB ขึ้นไป) | ดีที่สุด | แชต · รูปภาพ · แก้ไขรูป · เสียง · วิดีโอ | ทดสอบจริงแล้ว |
| เวิร์กสเตชัน AI อย่าง DGX Spark | ดีที่สุด | รูปภาพ · วิดีโอ · แชต | ทดสอบจริงแล้ว |
| Mac ที่ใช้ Apple M ซีรีส์ | ดีที่สุด | แชต · รูปภาพ · เสียง | ทดสอบจริงแล้ว |
| การ์ดจอ AMD (Linux) | แนะนำ | แชต · รูปภาพ | ทดสอบจริงแล้ว |
| คอมพิวเตอร์ทั่วไป / โน้ตบุ๊ก | ใช้งานได้ | งานเบา ๆ อย่างแชตและเสียง | |
| มือถือ / แท็บเล็ต | ใช้คอมพิวเตอร์ที่บ้านหรือพลังสำรอง |
เครื่องแรงไม่พอ?
เมื่อคอมพิวเตอร์ของคุณทำงานบางประเภทไม่ได้ จะย้ายไปใช้พลังประมวลผลสำรองของเครือข่ายเอง
คำถามที่พบบ่อย
ได้ คอมพิวเตอร์ทั่วไปทำงานเบา ๆ อย่างแชตและเสียงได้ ส่วนรูปภาพและวิดีโอแนะนำให้มีการ์ดจอ
ได้ Mac ที่ใช้ Apple M ซีรีส์รองรับแชต รูปภาพ และเสียง
มือถือติดตั้งโหนดไม่ได้ แต่ใช้พลังจากคอมพิวเตอร์ที่บ้านหรือพลังประมวลผลสำรองได้
หลังติดตั้ง โหนดจะแสดงรายการงานที่ทำได้ตามการ์ดจอและหน่วยความจำ
หน้าที่เกี่ยวข้อง
รัน LLM ในเครื่องต้องใช้คอมพิวเตอร์แบบไหน?