NVIDIA DGX Sparkの使い方と活用術
ローカルLLMおすすめ5選

家事と子育てのスキマで経営する3方よしAI共創コンサルタントの田中啓之、ひろくん（@passion_tanaka）です。

最新AI情報満載！毎日無料朝LIVE実施中！GPTs研究会では、AIツールの最新活用法を毎朝シェアしています。AI初心者の方も、ぜひAI氣道.jp無料メルマガで朝LIVEブログを毎日チェックしてくださいね。

NVIDIAのDGX Sparkは、データセンターで使われるGPU技術「GB10 Grace Blackwell」を、1.13リットル・240Wの小箱に詰め込んだLinuxサーバーです。私の机にも2台届いたんですが、箱を持った瞬間「え、これがスパコン？」って笑っちゃうくらい小さい。弁当箱よりちょっと大きいくらいです。

スペックの核心は128GBのユニファイドメモリ。CPUとGPUがメモリを共有する方式で、普通のゲーミングGPU（24GB程度）ではとても載らない大きなAIモデルを、この小箱がそのまま抱えられます。演算性能は1 PFLOP（FP4スパース）、ストレージは4TB SSD。価格は約3,999〜4,699ドル（2026年2月に値上げがありました）。

ぶっちゃけ、速度だけ見ればクラウドAIのほうが速い場面もあります。でもこの箱の価値は「大きなモデルが自宅で動く」「データが外に出ない」「使い放題」の3点。ここは後半で正直に整理しますね。

最初に知っておいてほしい大前提。DGX Sparkにはモニターもキーボードも付いていません。中身はUbuntu（DGX OS）が入ったLinuxサーバーです。だから使い方は2パターンあります。

パターンA：普通のPCみたいに使う。背面のHDMI/USB-Cにモニターとキーボードを繋げば、デスクトップLinuxとして起動します。ブラウザもターミナルも開発ツールも最初から入っているので、Linuxに慣れている人はこれで十分。

パターンB：母艦のMacやPCから遠隔で使う（こちらが本命）。Sparkは棚に置きっぱなしにして、いつものパソコンから操作します。料理に例えると、厨房（Spark）は奥に置いて、ホール（Mac）から注文を通すイメージです。手順は3つだけ。

さらに便利なのが公式アプリのNVIDIA Sync。Macに入れるとSparkを自動で見つけてくれて、sshコマンドを打たなくても、MacのブラウザからSpark内のJupyter Notebookを開いたり、VS CodeでSparkの中を直接編集したり、ボタンひとつでモデルのダウンロードと起動ができます。

「Linuxサーバーなんて触ったことないよ…」という方も安心してください。NVIDIAがPlaybook（プレイブック）という公式レシピ集を用意していて、難しいセットアップはほぼ全部レシピ化済みです。

たとえば「チャットAIを動かす」レシピをなぞれば、大型モデルがブラウザで喋り出します。「画像生成AIを動かす」レシピなら数分でStable Diffusionが立ち上がる。「自分のデータで微調整する」ファインチューニング体験のレシピまであります。ゼロから自分で組む必要はありません。

料理と同じで、最初はレシピ通りに作るのが一番の近道。私も実家の惣菜屋で育ったからわかるんですが、アレンジは2皿目からで十分です。PlaybookはGitHubのdgx-spark-playbooksで公開されています。

ちなみに2台持っている場合も、最初は1台だけ立ち上げて動作確認すればOK。2台をQSFPケーブル1本で直結する「クラスタ合体」（メモリ実質256GB・最大405Bパラメータ級の推論まで到達）は応用編なので、慣れてからで大丈夫です。

「で、結局どのモデルを動かせばいいの？」に答えます。128GBあれば200Bクラスまで、2台繋げば405Bまで載ります。2026年7月時点の用途別おすすめはこの5つです。

選び方の芯はシンプルです。賢さ最優先ならgpt-oss 120B、速さとエージェント用途ならNemotron 3 Nano、日本語の軽作業なら9B virtuoso。調理器具と同じで、全部を1本の包丁でやろうとせず、用途で使い分けるのがコツですね。

料理に例えると、クラウドAIは「出前」。頼むたびにお金がかかって、注文内容（データ）もお店に渡ります。DGX Sparkは「業務用キッチンを自宅に入れる」感覚。初期費用はかかるけど、あとは作り放題です。私が実際にやろうとしている活用術を5つ紹介します。

① 私設ChatGPT。gpt-oss 120Bを常駐させて、日々の相談や下書きをローカルに投げる。データが外に出ず、従量課金もゼロ。

② 自分専用ナレッジ検索AI（RAG）。過去の記事・メモ・議事録をベクトルデータベースに入れて、「自分の資産に根拠を持って答えるAI」を作る。RAGは冷蔵庫から食材を取り出して調理する仕組みなので、冷蔵庫（自分のデータ）が大きい人ほど効きます。

③ AIエージェントを丸ごと自宅ホスト。Difyのようなエージェント基盤をSparkに立てて、Web検索＋文書検索＋ツール実行をローカル完結。顧客対応の自動化も外部送信なしでできます。

④ 自分の声で書くAIを育てる（ファインチューニング）。128GBなら70Bクラスまで微調整可能。自分の過去の文章で「味の調整」をして、自分らしい文体のAIを自宅で育てられます。

⑤ 24時間バッチ処理基盤。文字起こし・リサーチ・記事下書きの量産を夜中に回しっぱなしに。かかるのは電気代だけです。

私のワクワク妄想｜棚の上で「もう一人の私」が仕込みを続ける

ここからは、私がこの2台で何をやりたいか。ぶっちゃけ半分妄想ですが、聞いてください。

妄想①「私の全部が入った相談相手」。私はこれまで毎朝のLIVEを800本以上やってきて、記事もメルマガも書き続けてきました。この全アーカイブをSparkに食べさせて、「過去の私に相談できるAI」を育てたい。深夜に「あの時どう乗り越えたっけ？」と聞くと、がんの手術前の私や、借金と向き合ってた頃の私の言葉が返ってくる。クラウドには預けたくない、私の一番濃い原液だからこそ、手元の箱でやる意味があります。

妄想②「寝ている間に仕込みが終わる台所」。夜中、私が寝ている間もSparkの上でAI秘書チームの仕込みが回り続ける。朝起きたら、今日のLIVEネタ・記事の下書き・リサーチ結果が台所にずらっと並んでいて、私は味見して「これでいこう」と言うだけ。シェフが仕込みから解放されて、フルコースの構想だけに集中できる厨房です。

妄想③「1台は本番、1台は実験室」。2台あるので、1台は毎日の仕事用、もう1台は失敗し放題の実験用コンロにします。新しいモデルが出たら即載せて、焦がしても誰にも迷惑がかからない。うまくいった実験もいかなかった実験も、朝LIVEで全部公開します。悪いことこそ宝物ですから。

妄想と言いましたが、材料はもう机の上に揃っています。あとは火を入れるだけ。競争より共創、この箱でできることを研究会のみんなと一緒に広げていくのが、いま一番ワクワクしています。

良いことばかり書くのはフェアじゃないので、弱点も正直に。DGX Sparkはメモリ帯域が273GB/sと細めで、1対1のチャット速度は最速ではありません。体感の返答スピードだけならクラウドAIや高級GPUに負ける場面があります。ただしCES 2026のソフトウェア更新（TensorRT-LLM最適化）で最大2.5倍高速化されたので、発売直後の「遅い」というレビューは今は古い情報になりつつあります。

つまりこの箱は「速度番長」ではなく「容量番長」。大きなモデルをそもそも載せられること、24時間回し続けられること、データが一切外に出ないこと、使い放題であることに価値があります。

コストの目安も率直に言うと、クラウドAIに月に数万円以上払っている人なら回収は早い（月850ドル節約できたという試算事例もあります）。逆に「たまにチャットで質問するだけ」なら、クラウドのほうが速くて安い。ここは無理におすすめしません。導入は従来のGPUサーバーの約1/20のコストで済み、初期投資のみで月額課金が発生しないのが最大の魅力です。

DGX Sparkの基本形はこの1行に尽きます。「Sparkは棚に置く → Macからssh か NVIDIA Syncで繋ぐ → 公式Playbookをなぞる」。

そして本当の勝負は動かした後、つまり活用術です。私設ChatGPT、自分専用の検索AI、エージェントの自宅ホスト、自分の声のAI育成、24時間バッチ。クラウドの出前生活から、自宅キッチンでの共創生活へ。私も2台のSparkでこれから実験していくので、進捗はまた朝LIVEとブログでシェアしますね。競争より共創、一緒に学んでいきましょう。

関連記事

参考リンク

• NVIDIA DGX Spark Playbooks（公式レシピ集・GitHub）
• NVIDIA DGX Spark 製品ページ
• NVIDIA Developer Blog：DGX Sparkソフトウェア最適化
• Tom’s Hardware：DGX Sparkレビュー