BM25を使用してCodexのトークンの消費を30%抑える

BM25をCodexのコード探索に組み込むことで、トークン消費を30%削減した検証結果を報告。最近のコーディングエージェントにおける「ファイルの検索」でのトークン消費の多さに着目し、BM25の有効性を解説。回答品質とトークン消費の改善について論じている。

• BM25という検索手法をコード探索に組み込むことで、AI（Codex）のトークン消費量を削減し、回答品質を向上させる検証結果が示された。
• 既存のAIコーディングエージェントはシンプルなキーワード検索しかなく、検索効率が悪いという課題があった。
• BM25を利用した場合、通常探索に比べてトークン消費量を約3割削減し、回答にたどり着くまでの時間も短縮できた。
• BM25は、検索語の出現頻度と珍しさを用いて文書の関連性を順位付けする手法であり、コードと日本語文書の両方に対応できるよう工夫されている。
• 7,000ファイル規模のリポジトリを対象とした実験では、BM25探索によりトークン消費量29.2%削減、動作時間も短縮された。