LLM推論初出 8/6 02:53
OPD-V：モダリティバランスによる視覚的オンポリシー自己蒸留
OPD-V: Visual On-Policy Self-Distillation with Modality Balance
https://export.arxiv.org/api/query·2026/8/5
AI要約
OPD-Vは、視覚的推論におけるモダリティ間の不均衡を解消し、自己蒸留を強化する手法です。マルチモーダルLLMの性能向上を目指します。
AI要点
- マルチモーダル大規模言語モデル（MLLM）の視覚的推論能力向上のための自己蒸留手法「OPD-V」を提案した。
- MLLMにおける「モダリティバランス」の重要性に注目し、これを自己蒸留の特権情報として活用する。
- 「Positive Teacher」と「Negative Teacher」を構築し、トークンロジットのマージンを調整することでモダリティバランスを最適化する。
- 6つのベンチマークと4つのMLLMバックボーンで評価した結果、OPD-Vは推論性能を向上させ、学習コストを削減した。
なぜ重要か
MLLMにおけるテキスト情報への偏りを是正し、画像などの視覚情報をより効果的に統合するための新しい自己蒸留手法を提案した。これにより、MLLMの視覚的推論能力が向上し、よりバランスの取れたマルチモーダル理解が可能になる。