ハードウェア初出 8/15 02:13
Rollplex:Vision Language Modelの事後学習のためのクロスフェーズGPU空間共有
Rollplex: Cross-Phase GPU Spatial Sharing for Vision Language Model Post-Training
https://export.arxiv.org/api/query2026/8/15
AI要約
視覚言語モデル(VLM)の強化学習(RL)後処理において、ロールアウト、参照スコアリング、アクター訓練のフェーズをGPUで並列化し、計算効率を向上させるRollplexを提案。
AI要点
- Vision Language Model (VLM) の事後学習における、GPU空間共有のための新ランタイム「Rollplex」を提案。
- 従来の逐次的な実行フェーズ(ロールアウト、評価、学習)を分解し、GPU利用率を向上させる。
- ロールアウトデコード中にプレフィックス計算を並行実行し、GPU計算能力の遊休を解消する。
- 位相認識メモリ管理と並列認識重み共有により、異なるTP度や重みレイアウトの制約に対応。
- 32基のH800 GPUで、逐次実行と比較して1.23〜1.30倍、分離実行と比較して1.57〜2.24倍の速度向上を達成。
なぜ重要か
Rollplexは、VLMの強化学習事後学習におけるGPUリソースの利用効率を大幅に改善し、計算コストを削減しながら、より高速かつ効率的なモデルの性能向上を可能にする。