LLM推論初出 8/29 02:41
ピーク間の学習:べき乗則異方性下でのカーネルリッジ回帰のシャープな漸近線
Learning between the peaks: sharp asymptotics for kernel ridge regression under power-law anisotropy
https://export.arxiv.org/api/query2026/8/29
AI要約
入力共分散がべき乗則で減衰する異方性ガウスデータ下でのカーネルリッジ回帰を研究。多項式高次元領域でカーネルスペクトルと汎化誤差の漸近的にシャープな表現を導出し、異方性が学習曲線にどう影響するかを明らかにする。
AI要点
- べき乗則異方性下でのカーネルリッジ回帰におけるシャープな漸近解析を導出している。
- 異方性が学習曲線にどのように影響するかを明らかにし、弱異方性と強異方性で挙動が異なることを示している。
- 弱異方性($0< ext{α}<1$)では、分散は整数サンプル複雑度でピークを打つが、バイアスは分数サンプル複雑度で低下する。
- 強異方性($ ext{α}>1$)では、次元が定数となり、分散はサンプルサイズに依存しなくなり、バイアスは急峻な遷移を示す。
なぜ重要か
データ構造の異方性がカーネル法における学習の挙動に与える影響を理論的に解明し、高次元データ解析におけるモデル選択や性能予測の精度向上に寄与する。