ツール/フレームワーク重要度 ★8
レイヤーからサブモジュールへ:置換ベースLLM圧縮における粒度の再考
From Layers to Submodules: Rethinking Granularity in Replacement-Based LLM Compression
https://export.arxiv.org/api/query·2026/6/1
AI要約
LLM圧縮において、層単位ではなくサブモジュール単位での圧縮を可能にする「IntraShuffler」を提案。より柔軟なモデル圧縮により、効率的な推論を目指す。