LLM推論初出 6/19 02:55
分布シフト下でのキャリブレーションされたMixture-of-Expertsに向けて
Toward Calibrated Mixture-of-Experts Under Distribution Shift
https://export.arxiv.org/api/query2026/6/19
AI要約
混合専門家(MoE)モデルにおける、分布シフト下での較正について研究。個々の予測器の較正がアンサンブル精度と較正を向上させる一方、MoEにおける較正の有効条件を解明し、モデルの信頼性向上を目指す。
AI要点
- 分布シフト下での混合専門家(MoE)モデルのキャリブレーション(較正)について研究。
- 個々の予測器のキャリブレーションが、アンサンブル全体の精度と信頼性を向上させることを実証。
- MoEモデルにおけるキャリブレーションの有効性を高める条件を特定・解明。
- モデルの信頼性向上と、予期せぬデータ分布変化への対応能力強化を目指す。
なぜ重要か
実世界のデータはしばしば分布シフトを起こすため、この研究は、信頼性の高いAIシステムの構築に不可欠な、過酷な環境下でのモデルの頑健性を向上させる道を示します。