Microsoftの新機能CodeActは、ツールを1個ずつ呼ばせない

MicrosoftのCodeActは、AIエージェントが複数のツールを一度に呼び出すことを可能にし、従来の逐次的な推論ループを改善する。これにより、API呼び出し回数とトークン消費を削減し、処理の遅延を軽減する。AIエージェントのツール利用効率を大幅に向上させる新機能について解説。

• Microsoft CodeActは、AIエージェントがツールを逐次呼び出すのではなく、Pythonコードとして一度に実行する新機能です。
• これにより、ツール呼び出しのオーケストレーションオーバーヘッドが削減され、処理時間が最大52.4%短縮されます。
• モデルの品質ではなく、ツール呼び出しの連携方法の効率化がボトルネックであったことを示唆しています。
• エージェントは直接ツールを呼び出さず、サンドボックス内で`call_tool`を記述するコードを実行します。