DeepSeek V4 FlashのKVキャッシュを量子化すべきではない

DeepSeek V4 Flashモデルにおいて、KVキャッシュを量子化することは品質に大きな影響を与えるため推奨されないという技術的な考察がなされています。

• DeepSeek V4 Flashモデルでは、KVキャッシュの量子化は推奨されていません。
• KVキャッシュの量子化は、モデルの品質に大きな影響を与えることが示唆されています。
• モデルの性能維持のため、量子化を避けるべきという技術的考察がなされています。