複雑なシステムはなぜ失敗するのか (1998年)

1998年に書かれた「複雑なシステムが失敗する理由」という記事。システムの失敗メカニズムについて考察している。

• 複雑なシステムは本質的に危険であり、常に潜在的な失敗要因を抱えています。
• システムは多層的な防御機構を備えているものの、複数の軽微な失敗が重なることで破局的な障害が発生します。
• 複雑なシステムは、完全な排除が困難な多数の潜在的失敗要因を抱えながら「壊れた状態」で稼働しています。
• 技術、組織、規制などの変化により、失敗要因は常に変化し続けます。