X-AuT: クロススケール蒸留を用いた音声LLMの段階的オーディオエンコーダー圧縮

X-AuTは、音声LLMの推論コストを削減するため、オーディオエンコーダーの深度を段階的に圧縮する。プロトコルは、短い行動プローブによるレイヤー組み合わせの選択と、表現アライメント、クロススケール蒸留、スケジューリングされた学生ポリシー監視、LoRAファインチューニングによる復元を含む。