KVキャッシュ量子化ベンチマーク：Qwen 3.6 27B、Gemma 4 31Bで413ペアをテスト。BeeLlama.cpp v0.4.0とのKLD：KVarN 6ビットがq8_0に勝利、精度テール1024が支配的

Qwen 3.6 27BおよびGemma 4 31Bモデルを対象としたKVキャッシュ量子化のベンチマーク結果です。6ビットのKVarNがq8_0を上回り、特定の量子化手法の有効性を示しています。

• Qwen 3.6 27BおよびGemma 4 31Bモデルを対象にKVキャッシュ量子化のベンチマークを実施した。
• 6ビットのKVarN量子化手法が、q8_0量子化手法を上回る性能を示した。
• 特定の量子化手法の有効性が示され、モデルの効率的な実行に寄与する可能性がある。
• 精度テール1024が支配的な結果となった。
• KVキャッシュ量子化の性能評価に関する詳細なデータが提示されている。