Latent Reasoning Modelは容易に解釈可能か？

Latent Reasoning Models（潜在的推論モデル）は、連続的な隠れ状態での推論を行うため、解釈が困難である。CoconutやCODIモデルを用いた実験では、これらのモデルは論理的タスクにおいて隠れ状態の推論ステップをほとんど利用しておらず、思考を途中で停止させても結果は変わらなかった。これは、モデルの高性能が隠れ状態の推論に依存しないことを示唆している。

• Latent Reasoning Models (LRMs)は、推論コストが低く複数の推論パスを並列探索できる利点がある一方、解釈性が低いという課題があります。
• LRMsでは、論理的推論データセットにおいて、推論トークンがなくても最終的な予測を達成できる場合が多く、推論トークンの役割に疑問が呈されています。
• 推論トークンが性能に必要とされる場合、正しく予測されたインスタンスの最大93%で、期待される推論トレースをデコードできることが示されました。
• 自然言語での推論トレースを、事前に正解トレースを知らずにデコードする手法が提案され、多数の正解予測で検証可能なトレースを見つけられることが実証されました。