LLMが書いたタスク分解は、誰が検証しているのか

LLMがタスク分解を行う際、その分解の正しさを誰が保証するのかという問いに焦点を当てる。LLM自身に分解と検証を任せるのは、相関した誤りをそのまま通してしまうリスクがあるため、決定論的な統合と生成的な実装の原則が重要となる。

• LLMによるタスク分解の検証において、LLM自身による再検証は同じ誤りを繰り返すリスクがあると指摘している。
• Orchestuneでは、LLMの出力を機械可読なスキーマに落とし込み、実行前に決定論的な検証を行うことで、申告された内容の妥当性を確認する。
• 実行中には、エージェントが実際に触ったファイルと申告内容を突き合わせ、乖離があればDAGを再計算するなどして問題を検知する。
• LLMの自己申告のみに依存せず、多層的な検証プロセスを設けることで、AIコーディングエージェントの信頼性を高めるアプローチを提案している。