LLM推論初出 6/10 11:28
gemma4 QATs 対 より高ビットの通常量子化?
gemma4 QATs vs higher-bit regular quantizations?
https://www.reddit.com/r/LocalLLaMA/.rss2026/6/10
AI要約
Gemma 4の26Bモデルについて、QAT(Quantization-Aware Training)されたQ4_0量子化と、それ以上のビット数での非QAT量子化(例: q6_K)との比較についての質問。量子化手法による性能差に関心がある。