LLM推論重要度 ★9
Pandora's AI Model Routing Box：コストのかかる価値推定による効率的な割り当て
Pandora's AI Model Routing Box: Efficient Allocation with Costly Value Estimation
https://export.arxiv.org/api/query·2026/8/20
AI要約
複数のモデルや設定を持つ異種AIシステムにおいて、クエリを最も効果的に、かつ低コストで処理できる専門家にルーティングする効率的な割り当て手法「Pandora's AI Model Routing Box」を提案。値推定コストを考慮し、高速だがノイズの多い推定器と、正確だが遅い推定器を組み合わせる。
AI要点
- 異種AIシステムにおいて、クエリを最も効果的かつ低コストで回答できる専門モデルにルーティングすることで、品質と効率を向上させることができる。
- モデルルーティングには、各専門モデルの期待リターンを推定する必要があるが、その価値推定自体にコストがかかるというトレードオフが存在する。
- 安価な推定器は高速だがノイズが多く、高精度な推定器は高価だが時間がかかる。このトレードオフを「パンドラの箱」問題として形式化する。
- 提案手法（Pandora's Router, Pandora's Bidder）は、ガウス信号モデルに基づき、価値推定のコストに見合うかどうかの判断を行う。
- 実験では、Pandora's Routerは網羅的な推定と同等のルーティング品質を達成しつつ、高価な推定器の呼び出し頻度を大幅に削減した。
なぜ重要か
価値推定コストとルーティング精度のトレードオフを考慮した「パンドラの箱」モデルに基づくルーティング手法は、異種AIシステムにおけるクエリ割り当ての効率と質を大幅に向上させ、リソースの最適化に貢献する。