12GB VRAMで120トーク/秒、Gemma 4 12B QAT MTP

GoogleのGemma 4 12BモデルのQAT（Quantization-Aware Training）版がリリースされ、12GB VRAMで120トークン/秒の推論速度を達成した。llama.cppとUnslothライブラリを組み合わせることで、ローカル環境での高速な推論が可能になったことを示している。