Cần máy tính thế nào để chạy LLM trên máy?
Có GPU là tốt nhất; máy tính thông thường cũng chạy được. Sau khi cài, nút sẽ cho bạn biết chính xác máy này làm được gì.
Cấu hình khuyên dùng
| Thiết bị | Mức khuyên dùng | Làm được | |
|---|---|---|---|
| GPU NVIDIA (VRAM từ 8GB) | Tốt nhất | Trò chuyện · hình ảnh · sửa ảnh · giọng nói · video | Đã thử thực tế |
| Máy trạm AI như DGX Spark | Tốt nhất | Hình ảnh · video · trò chuyện | Đã thử thực tế |
| Máy Mac dùng Apple dòng M | Tốt nhất | Trò chuyện · hình ảnh · giọng nói | Đã thử thực tế |
| GPU AMD (Linux) | Khuyên dùng | Trò chuyện · hình ảnh | Đã thử thực tế |
| Máy tính thông thường / laptop | Chạy được | Việc nhẹ như trò chuyện và giọng nói | |
| Điện thoại / máy tính bảng | Dùng máy tính ở nhà hoặc phần dự trữ |
Máy không đủ mạnh?
Khi máy tính của bạn không làm được một loại việc nào đó, nó tự chuyển sang phần dự trữ sức mạnh tính toán của mạng.
Câu hỏi thường gặp
Được. Máy thông thường làm được việc nhẹ như trò chuyện và giọng nói; với hình ảnh và video nên dùng máy có GPU.
Được. Máy Mac dùng Apple dòng M xử lý được trò chuyện, hình ảnh và giọng nói.
Điện thoại không cài được nút, nhưng có thể dùng sức mạnh của máy tính ở nhà hoặc phần dự trữ.
Sau khi cài, nút sẽ liệt kê các việc làm được dựa trên GPU và bộ nhớ.
Liên quan
Cần máy tính thế nào để chạy LLM trên máy?