ツール/フレームワーク初出 7/30 03:45
PSA: llama.cppは、MTPが無効でも、MTPテンソルをデフォルトで読み込みます
PSA: llama.cpp now loads MTP tensors by default for any draft-mtp arch, even with MTP disabled
https://www.reddit.com/r/LocalLLaMA/.rss2026/7/30
AI要約
llama.cppの最新バージョンで、MTP (Speculative Decoding) テンソルがデフォルトでロードされるようになったことを報告しています。これにより、MTPが無効な場合でも、関連するモデルではVRAM/RAM使用量が増加する可能性があります。
AI要点
- llama.cppの最新バージョンでは、MTPが無効でもMTPテンソルがデフォルトで読み込まれます。
- これにより、MTP（Speculative Decoding）を使用しない場合でもVRAM/RAM使用量が増加する可能性があります。
- モデルのロード時に、MTPテンソルが自動的にロードされる仕様に変更されています。
- MTPテンソルが不要なユーザーは、明示的に無効化する設定が必要となる場合があります。
なぜ重要か
モデルのメモリ使用量が意図せず増加する可能性があるため、リソース管理の観点から注意が必要です。特にメモリ制約のある環境では、パフォーマンスに影響を与える可能性があります。