AIに任せて踏んだヒヤリ・ハット集。事故はいつも、うまくいったように見えたときに起きた

AIにコード生成を任せる際、開発中に使用した機密ファイルが配布物に混入するヒヤリハットが発生した。AIにコード生成を任せても、最終的な確認と管理は人間が行う必要があり、AIの予期せぬ挙動に注意が必要である。

• AIにコード生成を任せた際に発生した「ヒヤリ・ハット」事例（配布物への機密情報混入、作業データ消失寸前など）を共有。
• AIによる「静かな成功」の増加、すなわち表面上は正常に見えるが中身が間違っているケースの危険性を指摘。
• AIの出力も外部入力と同様に扱い、信頼せずに検証する姿勢の重要性を強調。
• 危ない操作は判断に頼らず設定で禁止し、テスト結果の「緑」を鵜呑みにせず、テストコード自体の変更も確認する。
• 事故を防ぐため、成果物への余計な混入確認、判断に頼らない安全策、静かな確認の増加といった対策を提案。