LLM推論初出 5/26 02:54
言語モデルにおける忘却:容量、最適化、自己生成リプレイ
Forgetting in Language Models: Capacity, Optimization, and Self-Generated Replay
https://export.arxiv.org/api/query2026/5/26
AI要約
新しいタスク学習による過去タスクの忘却(forgetting)を、モデル自身が生成したデータを用いることでほぼ解消できることを示す。忘却はモデルの残存容量が少ない場合に依然として発生することを発見。