サンフランシスコ市、AppleとGoogleにAI「Nudify」アプリのApp Storeからの削除を要求

サンフランシスコ市弁護士事務所が、App Storeで配布されている「nudify」と称するAI顔交換アプリについて、AppleとGoogleに対し、アプリストアからの削除を求める通知を行った。これらのアプリは、女性や少女を標的としたコンテンツ生成に悪用されていると指摘されている。市は、これらのアプリが違法なコンテンツの配布を助長し、利益を得ているとして、是正を求めている。

• サンフランシスコ市がAppleとGoogleに対し、AIで他人の裸体画像を生成するアプリの削除を要求しました。
• これらのアプリはAI技術を利用して、同意なしに個人の裸体画像を生成する機能を提供しています。
• 市当局は、これらのアプリが違法かつ有害であり、プラットフォーム企業は収益を上げるべきではないと主張しています。
• AppleとGoogleは、アプリストアでの不適切なコンテンツの掲載を防ぐためのモデレーション強化を求められています。
• 開発者ポリシーでポルノや虐待を禁止しているにも関わらず、AIによる偽造画像の生成アプリが流通しています。