BOHB 論文解説：候補生成と予算配分から理解する Multi-fidelity HPO

BOHB論文を解説し、Multi-fidelity HPOにおける候補生成と予算配分のメカニズムを説明。ハイパーパラメータ最適化の計算コスト問題に対し、効率的な探索手法を提案している。

• ハイパーパラメータ最適化（HPO）における計算資源の課題と、BOHB（Bayesian Optimization and Hyperband）による解決策を解説する論文解説記事である。
• BOHBは、Hyperbandの効率的な予算配分と、ベイズ最適化（BO）のモデルベース探索を組み合わせた手法である。
• BOHBは、「候補生成」と「予算配分」を別問題として扱い、それぞれに最適な方法を適用する。
• Hyperbandは早期に有望な設定を発見しやすく、BOは探索終盤の収束性能に優れている。
• 低予算評価が最終性能を正しく反映しない場合などの限界についても検討されている。