Microsoft、237万件のフィッシングメールを生むAIの脱獄トリックを発見

Microsoftは、AIのレッドチーミングで考案されたASCIIスモーリングという技術が悪用され、237万通ものフィッシングメールが送信されたと発表しました。この技術は、不可視のUnicode文字を単語に埋め込むことで、メールフィルターを回避します。この攻撃は、SBAローンを申請する中小企業を標的とした広範なキャンペーンと関連しています。

• Microsoftは、AIの「脱獄トリック」が悪用されたフィッシングメール送信を発見した。
• ASCIIスマグリング技術により、237万件のフィッシングメールがスパムフィルターを回避。
• この技術は、AIモデルの安全規則を回避するために元々開発されたもの。
• フィッシングキャンペーンは、SBAローン申請中の小規模ビジネスを標的にしていた。
• ASCIIスマグリングは、人間には見えないUnicode文字を単語に埋め込むことで機能する。