LLM推論初出 8/12 02:21
階層的経験的ベイズナイーブベイズ:AODE拡張によるミニマックス平滑化とキャリブレーション
Hierarchical Empirical-Bayes Naive Bayes: Minimax Smoothing and Calibration with AODE Extension
https://export.arxiv.org/api/query·2026/8/11
AI要約
階層的経験的ベイズナイーブベイズ(HEB-NB)を提案。クラスごとの特徴量条件付き確率に、ディリクレ分布を用いた階層的経験的ベイズ推定による平滑化を適用。これにより、従来の固定的な平滑化手法のバイアスを軽減し、キャリブレーションを改善する。
AI要点
- 従来のナイーブベイズ(NB)分類器は、平滑化強度が固定されており、現代のデータ特性に対応できていない。
- 「階層的経験的ベイズナイーブベイズ(HEB-NB)」は、データ適応的に学習するDirichlet事前分布を用いて確率を平滑化する。
- HEB-NBは、クラス間の情報共有を原則的に行いながら、閉形式での推論を維持する。
- HEB-AODEは、適応的平滑化を構造緩和に拡張し、非漸近的なl1誤差限界とLaplaceからの分離を理論的に示す。
- HEB-NBは、UCIおよびOpenMLベンチマークにおいて、特に高カーディナリティデータセットで大幅な対数損失削減と、確率的精度およびキャリブレーションの改善を示した。
なぜ重要か
HEB-NBは、従来のナイーブベイズの平滑化問題を解決し、データ適応的な学習により高カーディナリティデータセットでの精度とキャリブレーションを向上させるため、機械学習の基礎モデルの性能を大幅に改善する可能性があります。