AIは防御を学ぶ前に攻撃を学んだ理由

AIは防御よりも攻撃を先に学習する傾向がある。その理由は、防御の検証が困難なのに対し、攻撃の検証は容易であるためだ。このため、ベンダーは証拠の提出よりも、脆弱性の実証を重視するようになるだろう。

• AIセキュリティのテストでは、攻撃成功の証明は容易だが、防御成功の証明は困難という非対称性がある。
• AIは攻撃の成果を証明しやすいため、防御よりも先に攻撃分野で人間を代替・加速しやすい構造を持つ。
• 防衛ベンダーは「全て検知できる」といった検証不可能な主張をやめ、検証可能な範囲を明確にすべきである。
• 攻撃ベンダーは、発見数だけでなく、実証可能な脆弱性や修正までの時間を価値として提供すべきだと提案されている。
• AIの進化は、脆弱性発見から修正検証へとボトルネックをシフトさせており、防衛側は検証技術への投資が重要となる。