AIが使われていると疑い、男性が訴訟でプロンプトを注入

裁判所がAIを使用していると疑った男性が、訴訟で勝訴するために、提出書類にプロンプトを挿入したという記事です。AIの悪用や判断への影響が懸念されます。

• 米国で、AIが裁判資料を読み取ることを利用し、プロンプトインジェクションを試みる訴訟が出現した。
• 原告は、AIにのみ読めるようにテキストを隠し、自身の主張に沿った判断をAIに促そうとした。
• この試みは裁判官には影響を与えず、訴訟は棄却されたが、潜在的に危険な前例となる。
• 隠されたテキストは、AIシステムに特定の指示を与え、裁判所の判断を操作しようとするものだった。
• コネチカット州ではAIが裁判資料のレビューに使用されていないため、この試みは直接的な影響を及ぼさなかった。