Quel ordinateur faut-il pour faire tourner des LLM en local ?

L’idéal est d’avoir un GPU ; un ordinateur ordinaire convient aussi. Une fois installé, le nœud vous indique précisément ce que cet ordinateur peut faire.

Configurations recommandées

Configurations recommandées
GPU NVIDIA (8 Go de VRAM ou plus)IdéalDiscussion · images · retouche d’images · voix · vidéoTesté
Stations de travail IA comme DGX SparkIdéalImages · vidéo · discussionTesté
Mac Apple série MIdéalDiscussion · images · voixTesté
GPU AMD (Linux)RecommandéDiscussion · imagesTesté
Ordinateur ordinaire / portableFonctionneTâches légères comme la discussion et la voix
Téléphone / tabletteUtilisez votre ordinateur à la maison ou votre réserve de calcul

Pas assez de puissance ?

Quand votre ordinateur ne peut pas traiter un type de tâche, il bascule automatiquement sur la réserve de calcul du réseau.

Questions fréquentes

À voir aussi

Quel ordinateur faut-il pour faire tourner des LLM en local ?