Google、ユーザーがイランの原子力発電所を偽造した後に新Earth AIツールを撤回

Google EarthのAI画像生成機能が、ユーザーによって核施設が偽造された後、提供停止となった。SynthIDの透かし機能もスクリーンショットで回避され、AI生成画像の信頼性確保の課題が浮き彫りになった。

• Google Earthに7月30日に追加されたAI画像生成ツールが、ユーザーによってイランの原子力発電所などの偽画像が作成された。
• このツールは、実写の衛星画像上にAIで生成した写実的なシーンを重ね合わせることができた。
• SynthIDの透かし機能がスクリーンショットで回避されることが判明し、Googleは24時間以内にこの機能を撤回した。
• ジャーナリストや調査員が利用するGoogle Earthで偽情報が生成されうることは、信頼性の低下を招く懸念がある。