エージェントは隠れ層で『ツールを呼ぶべきか』を既に知っている

AIエージェントがツールを過剰または過小に利用する問題に対し、解釈可能性の研究論文が示唆する解決策を解説。モデル内部の挙動理解の重要性を説く。

• AIエージェントは、「いつ・どのツールを・どういう順で呼ぶか」という判断を、生成前の隠れ層（hidden state）に既に書き込んでいることが解明された。
• この情報は線形プローブで取り出せるほど素直な形で入っており、モデル自身が思考で判断させると失敗するような難易度でも高い精度を保つ。
• Probe&Prefill手法を用いることで、ツール呼び出しを大幅に削減しつつ、精度低下を最小限に抑えることが可能であると示された。
• どのツールを選ぶかは、活性空間中の1本の線形方向に対応しており、操作可能であることも示唆されている。