Hugging Faceでディープフェイクヌード問題が発生

Hugging Faceの画像編集モデルでディープフェイクが容易に生成される問題が発覚。1000件のプロンプトで、ユーザーによる悪用方法が示唆されている。AI技術の倫理的課題と、プラットフォーム側の対策の必要性が浮き彫りになった。

• Hugging Face上のAI画像編集ツール7割が、衣服を着た女性をトップレスに変換可能であることが判明した。
• AI Forensicsの調査で、Hugging Faceへのプロンプトの73%が性的であり、その83%が衣服を脱がせることを目的としていた。
• 調査対象の6.7%は未成年者をターゲットにした性的リクエストであったと報告されている。
• Hugging Faceはコンテンツポリシーで児童性的虐待や同意のない性的ディープフェイクを禁止しているが、対策の有効性が問われている。