AIは回せば回すほど凄いのか ―「常時稼働」という設計の敗北

AIエージェントの「常時稼働」は、先進的に見えるものの、コストや設計の観点から必ずしも最適ではないという意見があります。AIを日常的に活用する開発者の視点から、その必要性について疑問を呈しています。

• 「AIを24時間常時稼働させて開発を自動化する」という言説は、インプレッションを稼ぐための「凄そうに見せる」インセンティブが背景にある可能性があります。
• LLMのAPI利用料は従量課金であり、高品質モデルの常時稼働はコスト面で現実的ではありません。
• 安価なモデルを常時稼働させても、精度の低さから手戻りコストが発生し、結果的に高コストになる可能性があります。
• 「無駄な処理を走らせない」ことはソフトウェア開発の基本原則であり、AI開発においても最小限のトークンでゴールを目指すべきです。
• AIの「常時稼働」は、動的なオーケストレーションの欠如を示す「設計の敗北」であり、本来は状況に応じて必要な時にだけAIを起動すべきです。