ローカルで LLM を動かすにはどんなパソコンが必要?
GPU があるのが一番ですが、普通のパソコンでも動きます。インストール後、ノードがこのパソコンでできることを一つずつ教えてくれます。
おすすめの構成
| 機器 | おすすめ度 | できること | |
|---|---|---|---|
| NVIDIA GPU(VRAM 8GB 以上) | 最適 | チャット · 画像 · 画像編集 · 音声 · 動画 | 実測あり |
| DGX Spark などの AI ワークステーション | 最適 | 画像 · 動画 · チャット | 実測あり |
| Apple M シリーズの Mac | 最適 | チャット · 画像 · 音声 | 実測あり |
| AMD GPU(Linux) | おすすめ | チャット · 画像 | 実測あり |
| 普通のパソコン / ノート PC | 動作可 | チャットや音声などの軽いタスク | |
| スマートフォン / タブレット | 自宅のパソコンか計算力の蓄えを使う |
性能が足りないときは?
パソコンで対応できない種類のタスクは、自動的にネットワーク全体の計算力の蓄えに切り替わります。
よくある質問
使えます。普通のパソコンでもチャットや音声などの軽いタスクは動きます。画像や動画には GPU のあるパソコンをおすすめします。
使えます。Apple M シリーズの Mac なら、チャット、画像、音声に対応します。
スマートフォンにノードは入れられませんが、自宅のパソコンや計算力の蓄えの力を使えます。
インストール後、ノードが GPU とメモリに応じて、できるタスクを一つずつ表示します。
関連ページ
ローカルで LLM を動かすにはどんなパソコンが必要?