Welchen Rechner brauchst du, um LLMs lokal auszuführen?
Eine GPU ist am besten; normale Rechner funktionieren auch. Nach der Installation sagt dir der Knoten genau, was dieser Rechner kann.
Empfohlene Ausstattung
| Gerät | Empfehlung | Kann | |
|---|---|---|---|
| NVIDIA-GPU (ab 8 GB VRAM) | Erste Wahl | Chat · Bilder · Bildbearbeitung · Sprache · Video | Getestet |
| KI-Workstations wie DGX Spark | Erste Wahl | Bilder · Video · Chat | Getestet |
| Mac mit Apple M-Serie | Erste Wahl | Chat · Bilder · Sprache | Getestet |
| AMD-GPU (Linux) | Empfohlen | Chat · Bilder | Getestet |
| Normaler Rechner / Laptop | Funktioniert | Leichtere Aufgaben wie Chat und Sprache | |
| Smartphone / Tablet | Rechner zu Hause oder Rechenreserve nutzen |
Nicht genug Leistung?
Kann dein Rechner eine Art von Aufgabe nicht übernehmen, wechselt er automatisch zur Rechenreserve des Netzes.
Häufige Fragen
Ja. Normale Rechner schaffen leichtere Aufgaben wie Chat und Sprache; für Bilder und Video empfehlen wir eine GPU.
Ja. Macs mit Apple M-Serie schaffen Chat, Bilder und Sprache.
Auf dem Smartphone läuft der Knoten nicht, aber es kann Rechenleistung von deinem Rechner zu Hause oder aus deiner Rechenreserve nutzen.
Nach der Installation listet der Knoten anhand von GPU und Arbeitsspeicher auf, welche Aufgaben er übernehmen kann.
Verwandt
Welchen Rechner brauchst du, um LLMs lokal auszuführen?