自宅PCでQwen3.8-27Bは動く？24GB VRAMで始めるローカルLLM入門 - IT.Lifestyle.up

自宅PCでQwen3.8-27Bは動く？24GB VRAMで始めるローカルLLM入門

AIツール
この記事は約15分で読めます。

2026年8月中旬、ChatGPTやGeminiのクラウド課金とは別の場所で、静かな争奪戦が起きています。舞台は自宅のゲーミングPCです。

8月10日からわずか9日間で、Metaの「Muse Glimmer」（30B）、NVIDIAの「Nemotron 3.5 Lightning」（30B-A3B）、Alibaba Cloudの「Qwen3.8-27B」、そして国立情報学研究所（NII）の「LLM-jp-4 33B」が相次いで公開されました。ITmedia AI＋は8月24日、このサイズ帯を「フロンティアモデルの陰で脇役だった30Bクラスが、いま主戦場になっている」と整理しています。日本語圏ではGIGAZINE、PC Watch、テクノエッジが速報し、Hugging Faceのトレンド上位もQwen3.8-27Bの派生版で埋まりました。

結論から書くと、量子化すればVRAM 24GBのゲーミングPCで実用になるのが、この世代の売りです。クラウドに原稿や社内メモを投げたくない人、月額サブスクの上限に疲れた人、週末にローカルでコードと文章を回したい人向けに、何を入れればよいかを暮らし目線でまとめます。

スポンサーリンク
スポンサーリンク

なぜ「30B」が急に熱いのか

巨大なフロンティアモデルは賢い代わりに、API代と遅延がかさみます。一方、常時起動のAIエージェントは、ツール呼び出しや結果確認のような定型処理が大半です。ITmediaが指摘するように、日常処理は軽量モデル、難所だけ上位モデルへ回す「分業」が現実解になりつつあります。MetaとNVIDIAがそろって前面に出すのも、OpenClawに代表される常時稼働エージェントです。

利用者側の事情もあります。クラウドに出すとトークン課金が発生し、原稿・契約書・顧客メモが外部に残る不安もあります。30Bクラスを手元で動かせれば、課金は電気代だけ、データはディスクの中です。ゲーミングPCをすでに持っている人にとっては、新しいサブスクを増やすより合理的な選択肢です。

ただし比較値の多くは各社の自社測定です。「27BでClaude Opus 4.6超え」という見出しは一部ベンチマークに限られ、科学推論やターミナル作業ではまだ差が残っています。ここを取り違えると、入れた瞬間にがっかりします。

Qwen3.8-27Bとは何か

Qwenチーム（Alibaba）が公開した、270億パラメータのDenseモデルです。GitHubのリリースノートでは、Hugging Face Hubへの公開は2026年8月14日（UTC）。日本時間では15日0時ごろにあたります。ライセンスはApache License 2.0で、条件を守れば商用利用も可能です。同じ世代の超大型「Qwen3.8-2.4T-A95B」はデータセンター級ですが、27Bは「コンパクトで展開しやすい」位置づけです。

特徴を暮らしの言葉に落とすと、次のとおりです。

  • 文章だけでなく画像・動画も読める。画面のスクリーンショットを見せて「このエラーを直して」が、クラウドなしで試せる
  • コンテキストは標準で26万2144トークン。拡張設定では100万トークンまで。長い議事録や仕様書を一度に渡しやすい
  • Thinking Modeがある。推論の深さを xhigh / medium / low で切り替えられる（Ollama公式ライブラリでは既定でThinkingがオン）
  • コーディングとPC操作寄りの点数が高い。Qwenのモデルカードでは、SWE-bench Proが61.7、OSWorld-Verifiedが84.3。同表のClaude Opus 4.6 Maxはそれぞれ53.4と72.7

第三者の物差しもあります。Artificial AnalysisのIntelligence Indexで、ITmediaはQwen3.8-27Bを52ポイントと紹介しています。2840億パラメータのDeepSeek V4 Flash 0731と並び、概算ではClaude Opus 4.6やGPT-5.2を上回った、という位置づけです。一方でTerminal Bench 2.1は73.0対78.2、GPQA Diamondは89.2対91.3と、Opus側が勝つ項目もあります。「全部で勝った」ではない、と覚えておくのが安全です。

PC Watchは、4日前に出たMetaのMuse Glimmer-30Bと比べても、コーディング指標ではQwen3.8-27Bが上回ると伝えています。まずはこの1本を軸に、自宅環境を組み立てるのが近道です。

自分のPCで動くか：VRAMの目安

フル精度の30Bは55GB超のメモリが必要、とMetaはMuse Glimmerの解説で書いています。普通のゲーミングGPUには入りません。そこで4ビット前後の量子化が前提になります。

公開直後の案内を横断すると、実務の目安はこうなります。

  • VRAM 24GB（GeForce RTX 4090 / 5090、RTX 3090など）：いちばん無理がない。Ollamaの既定タグ qwen3.8:27b は約18GB（Q4_K_M、256Kコンテキスト、テキスト＋画像）。LM Studioは最小の量子化版について少なくとも17GBのRAMが必要と案内
  • VRAM 16GB：動くが余裕は少ない。量子化を一段落とすか、一部をシステムRAMへオフロードする。速度は落ちる
  • Appleシリコン：LM StudioやOllamaのMLX版（qwen3.8:27b-mlx、18GB）が現実的。Metaが公表したMuse Glimmerの速度例では、M4 Maxで毎秒23.7トークン（投機的デコードなし）、DFlashありで37.8トークン
  • AMD：Ryzen AI Max+搭載PCや、VRAM 32GBのRadeon AI PRO R9700で動作可能と公式が報告（GIGAZINEがAMD投稿を引用）

ストレージも見落とせません。モデル本体だけで17〜18GB、複数モデルを置くと50GBはすぐ消えます。SSDの空きと、夏場のGPU温度は先に確認した方がよいです。ノートPCの8GBクラスでは、このサイズは向きません。

速度の参考として、SGLangはGeForce RTX 5090上でNVFP4などの最適化を入れたQwen3.8-27Bが、デコード毎秒206.1トークンに達したと報告しています。MetaのMuse Glimmer（K-Quant 17GB＋DFlash）は、同じRTX 5090で毎秒233.4トークンという自社測定です。環境と量子化が違うので、数字の勝負より会話がストレスなく続くかで見てください。

今日から始める手順：OllamaかLM Studio

コマンドが苦でなければOllama、マウス操作がよければLM Studioが入り口です。どちらも公式のモデルカタログにQwen3.8-27Bが入っています。

Ollamaの場合

  1. Ollama公式からアプリを入れる
  2. ターミナルで次を実行する（ライブラリのタグは qwen3.8:27b、約18GB）
ollama run qwen3.8:27b

初回だけモデルのダウンロードに時間がかかります。終わるとチャットが始まります。Ollamaのライブラリ説明では、Thinkingは既定オン、画像入力とツール呼び出しも同じダウンロードに含まれます。簡単な下書きでは推論が長く感じるので、そのときはThinkingを切るか、reasoning_effort を低めにします。

Appleシリコンなら ollama run qwen3.8:27b-mlx も選べます。普段使いのチャットなら、まずは既定の18GB版で十分です。8ビット（Q8_0）は30GB前後になり、32GB級のVRAMか大きな統一メモリ向けです。

LM Studioの場合

  1. LM Studioを最新版にする（古いランタイムだとQwen3.8のアーキテクチャを認識しない、という案内がある）
  2. Discover（検索）で「qwen3.8」と入れる
  3. 自分のVRAMに収まる量子化を選んでダウンロードする
  4. チャット画面でロードし、日本語で「この文章を社内向けに整えて」と試す

GIGAZINEが引用したLM Studio公式の投稿では、「ラップトップサイズのモデルとして能力が一段上がった。ローカル実行には約17GB」と書かれています。GUIでVRAM使用量が見えるので、初めての人はこちらが安心です。

公式ウェイトを直接置く場合

開発者向けには Hugging Face の Qwen/Qwen3.8-27B とFP8版があります。vLLM、SGLang、Docker Model Runnerからも使えます。まずはチャットで体感し、 満足したらサーバ化する、で十分です。

同じ週に出た「別解」：どれを選べばよいか

Qwenだけが正解ではありません。用途で分けると迷いが減ります。

Muse Glimmer（Meta、30B）

8月10日公開。Muse Sparkから蒸留したエージェント向けDenseモデルで、ライセンスはApache 2.0。4ビット量子化で言語モデル本体は20GB未満、24GBまたは32GBの枠にKVキャッシュと画像エンコーダ、投機的デコード用のドラフターまで収める設計です。Hugging FaceのGGUFでは、24GB向けのKQuant 17GB版が案内されています。

常時起動のローカルエージェント、関数呼び出し、手元のコーディング、評価用の「LLM as a judge」を想定しています。Intelligence IndexはITmediaの表で35ポイント。知能の絶対値より、ネットなしでもエージェントを回すことに振ったモデルです。Macと単一GPUのPCがターゲット、とMeta自身が書いています。

Nemotron 3.5 Lightning（NVIDIA、30B-A3B）

8月11日公開。総パラメータ約30B、推論時に動かすのは約3BのMoEです。OpenMDW License 1.1。コンテキストは最大100万トークン、日本語を含む複数言語に対応します。NVIDIA公式ブログは「常時稼働エージェントの実行レイヤー」と位置づけ、計画はフロンティア、実行はLightning、という分業を推奨しています。

Artificial Analysisは、gpt-oss-120bと同程度の知能をより小さいサイズと速度で出す、と紹介しています。ITmediaの表ではIntelligence Index 24ポイント。LM Studio、Ollama、llama.cpp、Unslothでも動かす前提です。NVIDIA GPUをすでに持っていて、エージェントの手足を速く回したい人向きです。

LLM-jp-4 33B（NII / LLMC）

8月18日公開。約332億パラメータのDense型で、Apache License 2.0。事前学習済みの llm-jp-4-33b-base と、SFT＋DPOまで済ませた llm-jp-4-33b-thinking の2本です。コンテキスト長は65,536トークン。ITmedia PC USERによると、事前学習は約11.7兆トークン、対応言語は日本語と英語です。

評価はLLM-jp独自の「llm-jp-judge」で、日本語MT-Bench、英語MT-Bench、AnswerCarefully、llm-jp-instructionsの4項目すべてで、従来のLLM-jp-4 Thinkingを上回ったと公式が発表しています。海外ベンチで「Opus超え」を謳うモデルとは土俵が違います。日本語の社内文書、行政・学術寄りの文章、国産モデルを使いたい事情があるなら、候補に入れてよいです。VRAMはDense 33Bなので、27Bより一段重く見積もってください。

選び方の目安はシンプルです。

  • まず1本、画面も見ながら文章とコードを回す → Qwen3.8-27B
  • ネットを切ったままエージェントを常駐させたい → Muse Glimmer
  • NVIDIA機でツール呼び出しを速く回したい → Nemotron 3.5 Lightning
  • 日本語の品質と国産を優先する → LLM-jp-4 33B thinking

全部入れる必要はありません。ディスクとVRAMは有限です。

暮らしと仕事での使い方

クラウドのChatGPTやGeminiを捨てる話ではありません。外に出したくない仕事だけ手元に残す、が現実的です。

向いている例は次のとおりです。

  • 顧客名の入ったメール下書き、契約書の言い回し確認
  • 社内Wikiや議事録の要約（ファイルをアップロードしたくないとき）
  • スクリーンショット付きのトラブル切り分け
  • 週末の個人開発、ブログ原稿、学習ノートの整理
  • オフラインの新幹線・カフェで続きを書く

向いていない例もあります。最新ニュースの事実確認、巨大リポジトリの一括改修、画像の量産、スマホだけで完結させたい作業です。これらはクラウド側の方がまだ楽です。ITmediaが言う難所だけ上位モデルは、個人でも同じです。下書きはローカル、最終チェックだけ有料クラウド、という分担で月額はかなり抑えられます。

Thinkingの使い分けも生活に効きます。「誤字を直して」に最大推論は不要です。逆に、仕様の穴を探す、長い議事録から宿題を抜く、といった作業では medium 以上が役立ちます。OllamaではThinkingが既定オンなので、最初は考えすぎて遅いと感じるかもしれません。遅さは故障ではなく、設定の問題であることが多いです。

入れる前に知っておきたい注意点4つ

第一に、派生版の選び方です。テクノエッジが8月26日に報じたところでは、Hugging Faceモデルトレンド上位30件のうち17件がQwen3.8-27B関連で、公式を除く派生は15件。そのうち10件はモデル名にUncensoredやabliteratedなどを含む、安全機構を外したとされる版でした。Apache 2.0はそうした改変自体を禁じていません。仕事のデータには、公式またはOllama / LM Studioのカタログにある版を使った方が安全です。ダウンロード数が多いことと、業務に使ってよいかは別です。

第二に、ベンチマークの読み方です。SWE-bench ProやOSWorldの数字はQwenのモデルカード由来です。第三者のIntelligence Indexは参考になりますが、あなたの日本語メールや社内用語での点数ではありません。入れたら、いつもの仕事を3つ投げて判断してください。

第三に、熱と電気です。24GB級GPUを長時間フル稼働させると、部屋の温度も電気代も上がります。クラウド課金がゼロでも、コストが消えるわけではありません。

第四に、ライセンスです。Qwen3.8-27BとMuse Glimmer、LLM-jp-4 33BはApache 2.0。Nemotron 3.5 LightningはOpenMDW 1.1。商用サービスに組み込む前に、それぞれの条文を自分で確認してください。この記事は法律相談ではありません。

まとめ：今すぐやるならこの3つ

8月の30Bラッシュは、賢いAIはクラウドの月額で買うものという前提を揺さぶっています。自宅の24GB GPUが、文章・画像・エージェントの受け皿になるサイズまで来た、というのが今回の本質です。

  1. 空き容量とVRAMを確認する。SSDに30GB以上、GPUメモリは24GBあると楽。16GBでも試せるが速度は落ちる
  2. OllamaかLM Studioで公式のQwen3.8-27Bを入れる。ollama run qwen3.8:27b、またはLM Studioで「qwen3.8」検索。まずはいつもの下書きを3本投げる
  3. クラウドと分けるルールを決める。外に出したくないファイルだけローカル。最新情報と重い推論は、これまでどおり有料モデル

「全部ローカルに移行しなければ」と思う必要はありません。ゲーミングPCがもうあるなら、週末に18GBを落として、ChatGPTに貼っていた文章を手元でやり直してみてください。体感がよければ、それが2026年8月時点の最適解です。

出典

コメント

  1. gutu より:
    2026年8月30日 9:21 PM

    この記事は、ローカルLLMを「性能の高さ」だけでなく、用途・VRAM・日本語品質・プライバシーで選ぶ視点が分かりやすかったです。特に、すべてを1つのAIで済ませるのではなく、目的ごとに使い分ける考え方には共感します。私も画像を短い動画にしたい時は PicWav（https://picwav.com） のような専用ツールを使っています。結局、AIは一番高性能なものを選ぶより、自分の作業に合ったものを組み合わせる方が効率的ですね。

    返信