Hy3 (295B MoE) および NVIDIA Nemotron-Labs-Audex-30B-A3B (オーディオ対応30B MoE) GGUFクアント

Tencentの295B MoEモデル「Hy3」とNVIDIA Nemotron-Labs-Audex-30B-A3B（音声対応30B MoE）のGGUF量子化版に関する共有。imatrix量子化、KLD/PPL測定、llama-benchスループット、再現可能なベンチマークデータを提供している。

• Tencentの295B MoEモデル「Hy3」のGGUF量子化版が共有された。
• NVIDIA Nemotron-Labs-Audex-30B-A3B（音声対応30B MoE）のGGUF量子化版も共有されている。
• imatrix量子化、KLD/PPL測定、llama-benchスループットデータが提供される。
• 再現可能なベンチマークデータにより、モデル性能の評価が容易になる。