443個のGGUF quantを25リポジトリで監査。64個はファイル名通りのquantではなかった

443個のGGUF量子化モデルを調査した結果、64個のモデルがファイル名と異なる量子化方式であったという発見についての報告です。モデルの整合性に関する問題提起です。

• 443個のGGUF量子化モデルを対象に監査が実施されました。
• 監査の結果、64個のモデルでファイル名に記載された量子化方式と実際の方式が異なっていることが判明しました。
• これは、モデルの整合性や意図した性能が得られない可能性を示唆する問題です。
• GGUFモデルの利用者は、ファイル名だけでなく、実際の量子化方式を確認する必要があることを示唆しています。