LLMワークフローにおける決定論という罠

LLMワークフローにおける決定論への移行の是非を問う。PoC段階からスキーマ、バリデーション、リトライなどを追加する際に、決定論化が必ずしも明確な改善に繋がらない場合がある。リトライやタイムアウトなどはコードで扱うべきだが、構造化出力などの内製化には注意が必要。