AIが書いたコードはテスト297件を全部通った。そして仕様は逆だった

AIが生成した暗号資産自動売買Botは、297件のテストを全て通過したが、仕様が意図と異なっていた。AIは高速にコードを生成するが、テストでは捕捉できない問題が発生する可能性がある。AI開発におけるリスクと安全な領域を事例で示す。

• AIが生成した暗号資産取引Botのコードはテストを全件通過した。
• しかし、現物取引とレバレッジ取引の実装が逆になっていた。
• テストは前提条件ごと検証するため、根本的な誤りは検出できなかった。
• 「コードの外にある権威（公式サイト等）と突き合わせる」対策が有効。
• デプロイ後も設定が反映されない、環境が状態を持つ問題も発生した。