LLM推論初出 6/8 23:07
[3090] Gemma4 QAT + MTP クイック TPS 数値 [TLDR 1.2-1.8倍向上]
[3090] Gemma4 QAT + MTP quick TPS numbers [TLDR 1.2-1.8x better]
https://www.reddit.com/r/LocalLLaMA/.rss2026/6/8
AI要約
3090 GPU環境でGemma 4 QAT (Quantization-Aware Training) と MTP (Memory Transfer Protocol) を使用した際の、TPS(Tokens Per Second)のベンチマーク結果を報告。既存手法と比較して1.2〜1.8倍の性能向上を確認。