LLM推論重要度 ★9
Lévy Attention:連続時間Attentionのための単一パス予測不確実性
Lévy Attention: Single-Pass Predictive Uncertainty for Continuous-Time Attention
https://export.arxiv.org/api/query·2026/8/19
AI要約
Lévy Attentionは、不規則にサンプリングされた時系列データに対する深層モデルの予測不確実性を、追加コストなしで単一パスで計算する手法です。注意層自体が、予測と同時にその信頼度を示すための確率的定式化を提案します。これは、不均一ポアソン過程に対する確率積分として定義されるクロスアテンション演算子です。
AI要点
- 不規則にサンプリングされた時系列データのための連続時間Attentionメカニズム「Lévy Attention」を提案
- Lévy Attentionは、予測の不確実性を計算コストなしに、Attention層自体から直接出力する
- クエリの互換性に基づき、連続時間インデックス空間における確率積分としてAttention出力を定義
- 提案手法は、t-PatchGNNベンチマークで既存手法と比較して精度を維持しつつ、不確実性推定の性能を向上させた
なぜ重要か
連続時間データにおける予測の信頼性をリアルタイムで評価する手法は、医療診断や金融市場分析など、迅速かつ正確な意思決定が求められる分野で有用です。