AIエージェントの待ち時間は単純に足せない——並列実行の重複をどう計測するか

AIエージェントの並列実行における待ち時間計測の難しさを解説。応答待ち時間は単純に足し算できず、実際の経過時間を超えるため、AI利用時間の集計が困難になる。「委譲」の概念にも触れ、実態を測ることの重要性を説く。

• AIエージェントの応答待ち時間を単純に合計すると、並列実行により実際の経過時間を超えてしまい、実態を表さない。
• 既存の作業時間計測ツールはAIの応答待ちをほとんど記録せず、AI利用による稼働時間減少と生産性向上が同時に起こりうる。
• AIエージェントの待ち時間を正確に計測するには、単純な総和（gross）、重なりを潰した実経過時間（union）、重複時間（overlap）を別々に算出する必要がある。
• 並列実行度を測るには、待ち発生中の同時実行数（平均と最大）を別途算出することが有効である。
• 待ち時間を時間軸上に配置し、重なりを潰す和集合の計算や、同時実行数を求める掃引法（sweep line）といった具体的な計測手法を提示。