Apple、脅迫者が偽のCSAMレポートを悪用したためTelegramを一時的に削除

Appleは、AIで改変された偽のCSAM（児童性的虐待資料）が原因でTelegramを一時的にApp Storeから削除しました。この事件は、AI技術が悪用されるリスクと、プラットフォーム運営者がコンテンツ管理において直面する課題を浮き彫りにしました。ユーザーコンテンツをホストするあらゆるアプリが標的になりうると警告しています。

• Appleは、CSAM（児童性的虐待コンテンツ）の通報を受けて、一時的にTelegramをApp Storeから削除しました。
• Telegram CEOは、この通報が偽のCSAMレポートを用いた脅迫行為であったと主張しています。
• 攻撃者は、編集・偽装されたメッセージにAIで改変したCSAMを挿入し、プラットフォームのコンテンツモデレーションシステムを悪用したとされています。
• この手口は、ユーザー生成コンテンツを扱う他のアプリも標的になりうる可能性を示唆しています。
• Telegramはコンテンツ削除とユーザー追放後、約40分でApp Storeに復帰しました。