Indirect Prompt Injectionは普遍的なAIセキュリティの欠陥を露呈、どのデプロイメントモデルも免れない

間接プロンプトインジェクション攻撃は、クラウド・ローカル双方のAIモデルに影響を与える普遍的な脆弱性を露呈。LLMのセキュリティリスクと、エンタープライズAI導入への懸念を示す。

• 間接プロンプトインジェクション攻撃は、クラウドベースとローカルAIモデルの両方を侵害する普遍的な脆弱性であると実証された。
• Mozilla Tabstack（クラウド）とCotypist（ローカル）に対する実証実験で、ユーザーデータや認証情報が漏洩。
• LLMが信頼できるプロンプトと信頼できない外部コンテンツを区別できない構造的な問題が根本原因。
• 攻撃者はモデルと直接対話せずとも、処理されるコンテンツに悪意のあるペイロードを仕込むことで攻撃が可能。
• デプロイメントモデル（クラウドかローカルか）に関わらず、この種の攻撃から免れることはできない。