既存のAIに攻撃を仕掛けて弱点を自動的に探し出すAIモデル「GPT-Red」をOpenAIが発表

OpenAIが、既存AIの弱点発見を自動化する「GPT-Red」を発表。攻撃役と防御役のAIを競わせ、プロンプトインジェクションに強い次世代モデルの訓練を目指す社内システムです。2026年7月15日に発表されました。

• OpenAIが、既存AIの弱点発見を自動化する「GPT-Red」を発表した。
• このシステムは攻撃役と防御役のAIを競わせることで機能する。
• プロンプトインジェクションなどの脆弱性に対する耐性を高めることを目的としている。
• 次世代AIモデルの安全性を向上させるための新しいアプローチである。