#LLMルーティング3件

[3835] メタ学習による暗黙的なコスト・パフォーマンスの嗜好からLLMをルーティングすることを学習する

本研究は、大規模言語モデル（LLM）のルーティングにおける新たなアプローチを提案する。MetaRouterと名付けられたこのメタ学習ベースのフレームワークは、ユーザーの暗黙的なコストパフォーマンスの好みを学習し、パーソナライズされたルーティングを実現する。既存手法が異なるユーザーニーズに対応できない課題を解決するため、MetaRouterは少量のインタラクションでユーザーの好みを効率的に学習する。

[232] 予測LLMルーティングの再考：シンプルなKNNが複雑な学習済みルーターを上回る場合

本論文は、大規模言語モデル（LLM）のルーティングにおける既存の複雑な学習ベースのアプローチに疑問を呈し、k近傍法（kNN）のようなシンプルな手法が、計算効率とロバスト性の両面で同等またはそれ以上の性能を発揮することを示しています。特に、多モーダルLLMへのルーティングにおいても、kNNベースの手法が有効であることを実証しました。

[209] 予測LLMルーティングの再考：シンプルなKNNが複雑な学習済みルーターを上回る場合

本研究では、大規模言語モデル（LLM）のルーティングにおける予測方法について考察し、単純なkNN（k近傍法）が複雑な学習済みルーターよりも優れた性能を発揮することを示しています。評価ベンチマークは、命令追従、質問応答、推論タスクを網羅し、一貫した評価プロトコルとパフォーマンス指標を確立しています。