RAGの精度は「データ」で決まる — Contextual Retrievalを実測したら1位正解率が36%→100%になった

RAGの検索精度はデータ準備（チャンクサイズ、分割法、加工）で決まる。Contextual Retrievalにより、検索の1位正解率が大幅に向上した。検索精度の向上はコスト削減にも直結する。

• RAG（Retrieval-Augmented Generation）の検索精度は、チャンクサイズや分割法などのデータ準備方法に大きく依存し、万能な最適解は存在しない。
• Anthropicが提案するContextual Retrievalは、各チャンクの先頭に文書の文脈（どの文書の何の話か）をLLMが付与してから索引化することで、検索精度を向上させる。
• 筆者の実測検証では、意図的に検索キーを曖昧にしたデータセットを用いても、Contextual Retrievalは1位正解率を0%から100%に向上させ、従来のRAGの失敗率を大幅に削減した。
• 検索精度の向上は、LLMへの入力トークン削減に直結するため、APIコストの削減にも貢献する。