DeepSeek V4ブランチに量子化KVキャッシュの修正をマージ

llama.cpp に KV キャッシュの量子化に関する修正がマージされたという報告。これにより、ローカル環境での LLM 推論パフォーマンスの向上が期待される。

• llama.cppにおいて、KVキャッシュの量子化に関する修正がマージされたことが報告されている。
• この修正により、ローカル環境でのLLM推論パフォーマンスの向上が期待されている。
• KVキャッシュの量子化は、メモリ使用量と計算負荷の軽減に寄与すると考えられている。