社内RAGの検索APIをPoCから本番運用まで持っていった話

社内向けRAG（Retrieval-Augmented Generation）検索APIのPoCから本番運用までの開発過程を振り返る。LangChain等に頼らず、ハイブリッド検索やRRFを自前で構築した経験を共有する。

• 社内RAG検索APIをPoCから本番運用まで約2年半、フルスクラッチで開発した経験を共有する。
• 開発当初はLangChain等を使用せず、ハイブリッド検索やRRFを自前で構築したが、規模拡大に伴い技術選定は変遷した。
• PoC期に有効だった構成でも、コンテンツ量や更新頻度の増加により運用に耐えなくなる場合があり、規模、技術選択肢、外部環境の変化に応じて判断を見直す必要があった。