LLM推論重要度 ★8
LLMルーティングのための相関認識型コンテキストバンディットと代理報酬
Correlation-Aware Contextual Bandits with Surrogate Rewards for LLM Routing
Yi-34B·2026/7/10
AI要約
LLMルーティングにおける新たなアプローチとして、相関を考慮したコンテクスチュアルバンディットと代理報酬（surrogate rewards）を導入。オフラインパフォーマンスデータを活用し、LLM間の相関と予測混合戦略を考慮することで、ルーティング効率の向上と後悔（regret）の低減を目指す。Yi-34B-Chat等を用いた評価で、LLMシステム性能向上の可能性を示唆している。
AI要点
- LLMルーティングのため、相関認識型コンテキストバンディットと代理報酬を用いる新手法が提案された。
- この手法は、オフラインの性能データを代理報酬として活用し、LLM間の相関を考慮する。
- 個々のLLM（アーム）の性能を予測・混合する戦略により、ルーティングの効率化と後悔（regret）の削減を目指す。
- Yi-34B-ChatなどのLLMを用いた評価で、LLMシステム全体の性能向上の可能性が示された。
なぜ重要か
相関認識型コンテキストバンディットと代理報酬を用いたLLMルーティング手法は、複数のLLMを効率的に使い分けるための高度な制御メカニズムを提供し、LLMシステムの全体的なパフォーマンスとコスト効率を改善する。