DeepSeek-V4-Flash (MXFP4)：KVキャッシュの量子化タイプ（f16 vs q8_0）のみでコンピューティングバッファが約3倍に - 他にこの現象を見てる人はいますか？ Llama.cpp

DeepSeek-V4-Flash (MXFP4) GGUFモデルにおけるKVキャッシュの量子化（f16 vs q8_0）によるコンピュートバッファの増加について議論。llama.cppでのベンチマーク結果。

• DeepSeek-V4-Flash (MXFP4) GGUFモデルでKVキャッシュの量子化による影響が議論されている。
• f16とq8_0の量子化タイプでコンピュートバッファが約3倍に増加した。
• llama.cppでのベンチマーク結果に基づいて報告されている。
• 量子化手法がモデルのメモリ使用量に大きく影響することが示唆されている。