4× DGX Spark上の4ビットGLM-5.2（753B MoE）: Terminal-Bench 2.1で70.8%（フルモデルは81.0%）

4つのDGX Spark（GB10）上で、4ビット量子化されたGLM-5.2（753B MoE）モデルを100Kコンテキスト長で実行した結果の報告。フルモデルと比較して性能が低下するものの、大規模モデルの量子化と長コンテキストでの実行可能性を示しています。モデル圧縮と効率化に関する実験です。

• 4つのDGX Spark上で4ビット量子化されたGLM-5.2（753B MoE）モデルを100Kコンテキスト長で実行した結果が報告されている。
• フルモデルと比較して性能は低下するものの、大規模モデルの量子化と長コンテキストでの実行可能性が示された。
• モデル圧縮と効率化に関する実験であり、大規模LLMの利用範囲拡大に貢献する可能性がある。
• Terminal-Bench 2.1での性能は70.8%（フルモデルは81.0%）とされている。