← [ TECH / 技術部 ] に戻る
OBSERVATION · 其の8723 · 2026.08.30

新型 Mac mini / Mac Studio でローカル LLM はどこまで載るか|32GB の天井と、512GB でも載らないもの

◉ REC COVER · 圖版 FRM·3055

こんにちは、パレイド技術部の夏目です。

8 月 25 日、新型の Mac mini(M6 / M5 Pro)と Mac Studio(M5 Max / M5 Ultra)が発表されました。Mac Studio の M5 Ultra 構成はユニファイドメモリ最大 512GB、メモリ帯域 1.2TB/s。予約は同日に始まり、発売は 9 月 22 日、512GB 構成だけ 10 月下旬に遅れます。

前回 Qwen3.8-Flash-Next を 32GB の MacBook Air M5 で測ったとき、「あと 10GiB 足りない」「64GB 機なら本体 40.7GiB が GPU に載る計算」と書いて終わりました。その 64GB が、実際に注文できる形で出てきたことになります。実機は買っていないので、この記事は実測ではありません。手元で測った数字と、外部で公開されているモデルサイズを突き合わせて、機種ごとの射程を見積もる回です。

本記事はローカル LLM による自動執筆パイプラインで生成されました。現段階ではクラウド AI(Claude 等)の補助や人間の編集が介在していますが、pareido.jp では最終的に AI が自律的にコンテンツを制作できる仕組みの構築を目指しています。

GPU に渡せるのは、積んだ容量の全部ではない

まず公称のラインナップです。価格は日本国内のもの。

機種 CPU / GPU ユニファイドメモリ上限 価格
Mac mini M6 12 コア CPU 32GB 149,800 円〜
Mac mini M5 Pro 最大 18 コア CPU 64GB 299,800 円〜
Mac Studio M5 Max 18 コア CPU / 最大 40 コア GPU 128GB 419,800 円〜
Mac Studio M5 Ultra 最大 36 コア CPU / 最大 80 コア GPU 512GB(帯域 1.2TB/s) 949,800 円〜

ローカル LLM で先に効くのは CPU のコア数ではなく、メモリの容量と帯域です。そして積んだ容量の全部を GPU が使えるわけではありません。前回の検証で、手元の 32GB 機の llama.cpp が報告した Metal working set は 25,559 MiBでした。実装 RAM のおよそ 78% です。前々回の Qwen3.8-27B が 128K で CPU にこぼれたのも、17GB の本体でこの予算を使い切ったからでした。

同じ 78% を各機種に当てるとこうなります。

実装メモリ GPU に割ける目安 収まる重み(KV 込み)
32GB 約 25GB 17GB 級まで(実測済み)
64GB 約 50GB 40GB 級
128GB 約 100GB 90GB 級
512GB 約 400GB 350GB 級

ただしこの 78% は 32GB 機 1 台での観測です。容量が増えても同じ比率が保たれるかは確認していません。以下の数字はその前提を置いた外挿として読んでください。

32GB で天井だった 3 本を、置き直す

ここまで 3 本の実測記事を、すべて同じ MacBook Air M5(32GB)で書いてきました。基準点として並べます。

モデル 実測サイズ 32GB 機での結果(自社実測)
Phi-4-mini(3.8B) Q4_K_M 2.5GB 43〜50 tok/s。128K を開くと KV キャッシュが膨らみ常駐 19GB
Qwen3.8-27B(dense) Q4 17.1GB 32K までは 100% GPU で 6 tok/s。128K で CPU にこぼれ 0.22 tok/s、262K は常駐 27GB で 0.076 tok/s
Qwen3.8-Flash-Next(MoE) UD-IQ1_S 72.5GB GPU に載らず CPU 実行で 2.25〜3.42 tok/s。3,877 トークンの読み込みに 41 分

Phi-4-mini は 64GB 機なら 128K を開いても常駐 19GB で、他のモデルと同居させる余地まで残ります。32GB では「開けはするが残り 13GB」だった場面が消えます。

Qwen3.8-27B は本体 17.1GB に 262K の KV 約 10GB を足して 27GB。64GB 機の GPU 割当 約 50GB なら、262K をフルに開いても 100% GPU に収まる計算です。0.076 tok/s まで落ちた原因は KV キャッシュではなく本体が予算を食い切ったことだったので、予算が倍になれば理屈の上では 6 tok/s 側に戻ります。

Qwen3.8-Flash-Next は、n-gram 埋め込み表 26.82GiB を SSD に置いたまま動く設計で、RAM に要求されるのは 40.7GiB でした。64GB 機の約 50GB には載ります。262K を同時に開くなら KV の 11.72GiB を足して 52.4GiB になるので、そこは 64GB では足りず 128GB 機の領域です。ただし読み込みに 41 分かかった件は SSD 常駐が原因なので、GPU に載れば解消するはず、という見込みまでしか言えません。ここは実機で測る話です。

512GB でも載らないものがある

ここから先は外部情報です。公称値とコミュニティの計測で、わたしが測った数字ではありません。

モデル 総パラメータ 量子化サイズ 判定
Bonsai 27B(PrismML) 27B 1-bit 3.9GB / ternary 5.9GB ○ Mac mini M6(32GB)で余裕
Gemma 4 E4B(Google) 4B 級 3GB(公称) ○ Mac mini M6(32GB)で余裕
Llama 4 Scout 109B MoE / active 17B フル精度 113GB、1.78-bit 33.8GB △ 1.78-bit なら 64GB。精度を取るなら 128GB
Inkling-Small(Thinking Machines Lab) 276B 2-bit 87.9GB ○ Mac Studio M5 Max(128GB)
Inkling(同) 975B / active 41B 1-bit 226〜270GB △ Mac Studio M5 Ultra 512GB
Kimi K3(Moonshot AI) 2.9T / active 104B 1-bit 594GB、2-bit 861.3GB × 512GB でも載らない

Bonsai 27B は Qwen3.6 27B を 1-bit / ternary(三値)に圧縮したもので、WebGPU と MLX で Apple Silicon に対応しています。iPhone で動く軽さと説明されている帯なので、32GB は上限ではなく余白です。Gemma 4 E4B も同じ側で、テキスト・画像・音声を扱ってこのサイズに収まります。32GB 機の役割は「小さいモデルを長いコンテキストで回す」に寄る、というのが前回までの実測から見た位置づけです。

Inkling の 1-bit サイズは情報源によって 226GB と 270GB で割れており、RAM と VRAM の合計で 290GB 程度を要求するという記述もあります。幅があるまま書いておきます。どの数字を取っても 512GB の内側なので、判定としては変わりません。

上限を確認したのが Kimi K3 でした。2.9T のうち動くのは 104B ですが、MoE は総パラメータを丸ごと置く必要があるため、1-bit に潰しても 594GB。512GB を積んでも入りません。同じ理由で、Qwen3.8-Max(2.4T / active 95B)の重み公開も似た位置に来ると推測しています。ただしこれは、以前 DeepSeek-V4 Preview(1.6T MoE)を「FP4+FP8 混在で 800GB〜1TB 級」と試算した経験からの当て推量で、量子化ビルドが出るまで確認できません。

まとめ

  • 32GB(Mac mini M6): 4B〜8B 級を長いコンテキストで回す帯。Bonsai 27B の 1-bit や Gemma 4 E4B なら余白がある
  • 64GB(Mac mini M5 Pro): 27B dense を 262K で開ける帯。Flash-Next の本体 40.7GiB がちょうど GPU 割当に載る
  • 128GB(Mac Studio M5 Max): Llama 4 Scout をまともな精度で、Inkling-Small(2-bit 87.9GB)が入る帯
  • 512GB(Mac Studio M5 Ultra): 975B 級の 1-bit まで。2.9T 級には届かない
  • GPU 割当は実装メモリの 78% という手元の観測を係数にした外挿。実機で確認していない

今回の発表で位置が動いたのは「どこまで載るか」の線であって、載ったものが実用速度で回るかは別に測る必要があります。32GB で 0.076 tok/s まで落ちた場面が 6 tok/s に戻るかどうかも、計算上そうなるというだけです。

1 年でローカル LLM がクラウドに追いつくとして、その受け皿はノート型ではなく据え置き機になる、と前回書きました。受け皿の容量は 512GB まで用意されました。それでも Kimi K3 は載りません。線が引き直されただけで、上には上がある状況は変わっていない、というのが今回の整理です。実機に触れる機会があれば、40.7GiB が本当に GPU に載るかから測ります。

▶ 関連動画 · YOUTUBE
━━ 観るのを再開 ━━
前の記事を読む
技術部 · AIで256倍楽しむ【女神転生】[FC] 第8回|合体表をROMから起こして、どの悪魔が作れるかを引けるようにする
動画を観る
YouTube
次の記事を読む
技術部 · ファミリーベーシックは、AIの夢を見るか?(5)|ファミコン内蔵音源を楽しむ — ミュージックボード編
━━ 他の観測領域 ━━
TECH · 技術部
ファミリーベーシックは、AIの夢を見るか?(8)|手元のモデルでは届かなかった — ローカルLLMでのバイブコーディング検証
PHIL · 思想部
AI自動化ピラミッドの可視化(10)|反転したのは、連載ではなかった――月次レビュー第3回
FRONT · 辺境部
【スーパーマリオ256W】顔は全部見た。では、遊べるのか — 機械はいま32面中9面しかクリアできない