待ち時間短縮のために、AIエージェントの楽観的な並列オーケストレーションを試してみた

コーディングエージェントの利用で発生する待ち時間短縮のため、楽観的な並列オーケストレーションを試した。未確定な作業を戻せる範囲で進めることで待ち時間は減ったが、状態管理と完了判定の複雑さは増した。

• AIエージェントの待ち時間短縮のため、上流タスクが確定する前に後続タスクを楽観的に並列実行する手法を試みた。
• 並列実行により待ち時間は減少し、完了件数も増加したが、状態管理や中間管理職AIの増加といった課題も生じた。
• 状態の書き込みを減らし、完了判定を機械的に行うことで、これらの課題に対処した。
• 並列実行は、作業の依存関係を考慮し、下流が受け取れる量に合わせて並列数を調整することが重要である。