encoder の reranker は、量子化の話題から外れている

encoderベースのcross-encoder（XLM-RoBERTa系）における量子化の課題を指摘。decoderベースLLMの量子化とは異なり、既存ツールやノウハウが適用しにくい状況を説明し、encoder特有の難しさに言及している。

• encoderベースのcross-encoderモデルにおける量子化の難しさが指摘されている。
• decoderベースLLMの量子化とは異なり、既存の量子化手法やツールが適用しにくい。
• XLM-RoBERTaのようなencoderモデル特有の課題が存在することが示唆されている。
• encoderモデルの量子化には、新たなアプローチや研究が必要とされる可能性がある。