NAW / COMPUTE 06
IMAGE: AI生成ビジュアル
COMPUTE / Infrastructure
llama.cpp v0.3.0公開 — Dots3-Note対応とDeepSeek 4テンソル分割、ggml 0.22.0へ更新
DSA-ISWA KVキャッシュを備えるマルチモーダルDots3-Note、GLM-4.5-AirのMTP、DeepSeek 4のtensor-split対応が柱。Metalカーネル並列コンパイルやWebP対応、チャットUIのタブ化など推論基盤を刷新。
ローカルLLM推論の定番エンジン llama.cpp が2026年8月25日(UTC)、安定版 v0.3.0 を公開した。スター18万超の人気リポジトリのマイナーバージョンアップで、マルチモーダルモデルdots3-noteの新規対応、DeepSeek 4のtensor-split、GLM-4.5-AirのMTP、ggml v0.22.0への更新を柱に、サーバーとWeb UIまで含む広範な改善をまとめたリリースだ。直前の nightly b10621 を包含する安定版で、変更点は前回 v0.2.0 からの差分として整理されている。
新モデルとコア推論 — Dots3-Note、DeepSeek 4、GLM-4.5-Air
- dots3-note: 新アーキテクチャを追加。新しいKVキャッシュ方式 DSA-ISWA を備え、mtmd側で視覚・音声の両モダリティをサポートする。関連PRは #27060、#27524。大規模コンテキストでの効率を狙った設計とみられる。
- DeepSeek 4: テンソル並列の分割方式 tensor-split(
-sm tensor) を追加 #26490、複数シーケンスでのロールバック不具合を修正 #26756。テンソル並列時のメタ状態伝播も修正 #27574、分散推論の安定性を高めている。 - GLM-4.5-Air: MTP(Multi-Token Prediction) に対応 #26534。投機的デコーディング周りではドラフトMTPとembeddingの組み合わせ不具合も修正 #27400。
- その他コア: mamba2の入出力射影をGEMVからGEMMへ平坦化して高速化 #27513、bailingmoe3のDSpark対応 #27508、ROPEオフセットの共通化、文法のハイフン解釈修正など細部の堅牢化も含む。
マルチモーダルとggml — WebP、リサイズ精度、Metal並列
- マルチモーダル(mtmd): WebP画像のデコードをffmpeg経由でサポート #27520、動画のmoov atomが末尾にあるファイルの読み込み修正 #27596、Pillow準拠のリサイズアルゴリズムへ統一し
resize_algoを全モデルで是正 #27594。視覚モデルの前処理精度をOS標準に近づける改善だ。 - ggml v0.22.0: メタ(multi-backend)でのtensor-split対応、Metalカーネルをper-opソース分割+並列コンパイルへ刷新してビルド時間を短縮、
ggml_clampを非インプレース化して正しい演算に修正。新演算 POOL_1D / PAD_REFLECT_1D を追加、SYCL向けQ2_KカーネルやOpenCLのMoEバイアス融合などバックエンド横断の最適化も含む。 - サーバー/UI: サーバーはスロット差分のデバッグ範囲を広げる環境変数
LLAMA_SERVER_SLOTS_N_DIFFを追加 #27600、スロット適合ロジックを共通fitへ移しn_streamsを考慮。Web UIはチャット会話のタブナビゲーションを導入 #27263し、キーボードショートカットも修正した。
本リリースは breaking change として json.h の抽象化導入やCLIオプション -no-cnv の削除なども含む。アップデート時はリリースノートのChangelog(v0.2.0以降)を確認し、MetalやCUDA環境では初回ビルドの並列コンパイル挙動に留意したい。