社内の知見をAIが漏らさず拾う唯一の設計思想 ― Karpathy氏のLLM Wikiを実践して分かったこと

社内ドキュメントの検索精度向上を目指し、Karpathy氏のLLM Wikiを参考にベクトルDBとRAGの「入れ方」を工夫する設計思想について解説。生のドキュメントをLLMが消化できる粒度まで段階的に加工する「progressive disclosure」の重要性を説いている。