Tag
Auto Router v2: 複雑性、意味論、適応ルーティングのための統合ルーター
LiteLLMのAuto Router v2は、複雑性、セマンティック、適応型ルーティングを単一の`auto_router/complexity_router`に統合しました。
[7802] RouteJudge：再現可能で選好認識型のLLMルーティングのためのオープンプラットフォーム
RouteJudgeは、LLMルーティング戦略を評価するためのオープンプラットフォームを導入し、ユーザーの好み、コスト、レイテンシなどの実用的な制約を組み込んでいます。実際のユーザーフィードバックを収集することで、静的なベンチマークを超え、好みやコストを考慮した分析を可能にします。