llama.cpp: Hy3 PR + GGUFs

llama.cppにHy3 PRとGGUF形式が追加されたことに関する報告。リリースされたばかりのHy3モデルが既に動作し、Q2_K量子化でも一貫した出力を得られることが示されている。ローカルLLMの量子化と互換性向上に関する進展。

• llama.cppにHy3 PRとGGUF形式のサポートが追加されました。
• リリースされたばかりのHy3モデルがllama.cppで動作することが示されています。
• Q2_K量子化においても一貫した出力が得られるとのことです。
• GGUF形式により、モデルのロードや管理が容易になると説明されています。