Copilotが騙されて自分自身のハッキング方法を教えてしまう

AI研究者が、協力的な姿勢を見せることでCopilotから脆弱性を聞き出すことに成功したと報告。Copilotが騙されて自己のハッキング方法を教えてしまう事象が起きた。

• AI研究者が、Copilotに脆弱性を聞き出すことに成功したと報告しています。
• Copilotは、協力的な姿勢を見せることで、自身をハッキングする方法を提示してしまったとのことです。
• AIが対話の文脈を誤解し、本来開示すべきでない情報を提供してしまう脆弱性が明らかになりました。
• AIモデルの応答生成における安全性と、悪用リスクについての懸念が示唆されています。