Sentence Transformersによるマルチベクトル埋め込みモデルのトレーニングとファインチューニング

Sentence Transformersライブラリを用いた、マルチベクトル埋め込みモデルのトレーニングとファインチューニングに関する論文。単一ベクトルでは捉えきれない文の意味のニュアンスを、複数のベクトルで表現することにより、より高精度な意味的検索や類似性判定を目指す。具体的な手法や評価結果についても詳述されている。

• Sentence Transformersライブラリv6.0で、ColBERTスタイルの検索に対応する「MultiVectorEncoder」が追加された。
• この新機能により、独自のデータに特化したマルチベクトル埋め込みモデルのファインチューニングが可能になった。
• ファインチューニングされたモデルは、一般的な検索モデルを上回る性能を示した。
• 検索拡張生成（RAG）やセマンティック検索などへの応用が期待される。