Mac mini M4（24GB）で27BローカルLLMを動かしたら、動いた。でも快適ではなかった

Sun, 20 Sep 2026 11:00:00 +0900

何を試したか

以前の記事で、M4 Mac mini（24GB）を買った話を書いたとき、「24GBでも軽量モデルなら動く。ただし30B級以上を快適に回すには厳しい」という印象論を書きました。

今回はその仮説を実際に確かめてみました。Qwen3.8-27Bの4bit量子化版をOllamaに入れて、生成速度を素の状態で測ってみたのです。

結論を先に言うと、27Bは24GBのMac miniで動きました。ただし「快適」ではありませんでした。 起動できることと、日常で使えることは別物です。この記事は、その差がどこから来るのかを数値で追った記録です。

測定に使った環境です。

項目	値
本体	Mac mini（2024、Mac16,10）
チップ	Apple M4（ベース版、Pコア4 + Eコア6）
メモリ	24GBユニファイドメモリ
実行ソフト	Ollama 0.32.14
モデル	`orcarouter/Qwen3.8-27B-Uncensored:mlx-4bit`（16GB）
比較用	`qwen3.5:9b`（Q4_K_M、6.6GB）

モデルはOllamaのページからmlx-4bitタグを取得しました。Qwen3.8-27Bは2026年8月リリースの27B Denseモデルで、画像入力にも対応し、コンテキストは262Kです（HuggingFaceのモデルカードより）。

なお、このモデルを選んだ理由は後の節で書きます。今回のような1トークンずつの生成では、モデルの実効サイズとメモリ帯域が速度を大きく左右します。ただし、アーキテクチャや量子化方式、実行エンジン、コンテキスト長でも差が出るため、同じ27Bなら必ず同じ速度になるわけではありません。

この記事の数値は、私の環境で測った1例です。速度はOllamaやモデルの更新、同時に動かすアプリ、プロンプトの長さによって変わります。

同じ短い質問（「日本の首都はどこですか？地名だけで答えてください。」）を投げたときの実測値です。

初回はモデルのロードに12.3秒かかりました。16GBをディスクからメモリへ展開する時間です。2回目以降はモデルがメモリに残っているのでロードは25ミリ秒で済みます。

しかし生成速度はどちらも6.2〜6.7トークン/秒でほぼ変わりません。ロードの遅さは一度だけ我慢すれば済みますが、生成の遅さはずっとついてきます。

生成がどの程度の速さなのか、体感を説明します。

6.7トークン/秒は、日本語ではおおよそ毎分数百字です。文字数への換算は内容やトークナイザーで変わりますが、チャット画面で返答がじわじわと伸びていくのを、読む速度で追いかけるような感覚でした。文字は出てくる。止まっているわけではない。でも待たされる。

長い出力で測るとよりはっきりします。「ローカルLLMのメリットを500字程度で説明してください」と依頼したところ、859トークンの生成に2分9秒かかりました。

Qwen3.8はthinkingモードがデフォルトで有効になっています。上記の長文測定では、最終的な回答に加えて内部の思考トークンを生成していたため、出力量が膨らんでいました。

OllamaのAPIでthink: falseを指定して同じ質問を投げ直すと、248トークンで38秒に短縮されました。生成速度そのものは6.63トークン/秒と変わりません。

今回のプロンプトに限れば、速度の構造はこうです。

「地名だけ」のような短い質問だと、thinking無効なら2秒で返ってきます。有効だと10.7秒。中身は同じ「東京」という回答です。

24GBメモリに対して16GBのモデルなので、ギリギリ収まっています。実際、Ollamaはモデル全体をGPU（ユニファイドメモリ）に載せ、CPUへのオフロードやスワップなしで動いていました。ollama psで確認すると100% GPUです。