事故ってから足したルール13個 ―― 1年近くAIに開発をさせて、やらかしたことと決めたこと

AIに開発を任せて1年近く経て、実際に起きた事故とそれを受けて追加された13個のルールについて解説。AIを新卒やセッション単位で捉える考え方に基づき、机上の空論ではなく、実体験から得られた失敗談を交えて、AI活用における実践的な注意点を共有している。

• AIに開発を任せる際、プロジェクトの前提条件やルールは毎回チャットで説明せず、説明書（CLAUDE.md）に集約すべきである。
• 書き込み権限はプロジェクト内に限定し、削除や外部送信など危険な操作は必ず人間が確認する仕組みが必要である。
• AIへの指示は「バグを直して」のような一言ではなく、「背景・やること・完了条件・禁止事項」を明記した依頼形式を用いるべきである。
• AIに「壊れているケースを探して報告」と依頼することで、例外処理や境界条件の確認を促し、より堅牢なコード生成が可能になる。
• AIが人間の操作や判断を必要とする場面では、具体的な手順書を作成させ、作業の停滞を防ぐことが重要である。