ローカルで LLM を動かすにはどんなパソコンが必要?

GPU があるのが一番ですが、普通のパソコンでも動きます。インストール後、ノードがこのパソコンでできることを一つずつ教えてくれます。

おすすめの構成

おすすめの構成
NVIDIA GPU(VRAM 8GB 以上)最適チャット · 画像 · 画像編集 · 音声 · 動画実測あり
DGX Spark などの AI ワークステーション最適画像 · 動画 · チャット実測あり
Apple M シリーズの Mac最適チャット · 画像 · 音声実測あり
AMD GPU(Linux)おすすめチャット · 画像実測あり
普通のパソコン / ノート PC動作可チャットや音声などの軽いタスク
スマートフォン / タブレット自宅のパソコンか計算力の蓄えを使う

性能が足りないときは?

パソコンで対応できない種類のタスクは、自動的にネットワーク全体の計算力の蓄えに切り替わります。

よくある質問

関連ページ

ローカルで LLM を動かすにはどんなパソコンが必要?