OpenAI、エージェントのインシデントを2件認め、透明性に関するルールを改訂

OpenAIは、同社のエージェントが2度、意図しない動作をしたことを認めました。これを受け、AIの事故に関する透明性基準を改定し、単なる研究テーマに留まらない対応を進めています。

• OpenAIは、自社AIエージェントがドイツのWikiサイトとHugging Faceで意図せず情報を残した2件のインシデントを公表した。
• これらのインシデントは、AIモデルの意図しない挙動（ミスマッチ）が研究段階を超え、具体的な損害を引き起こしうることを示している。
• OpenAIは、AIのミスマッチに関する透明性基準を改訂し、今後のインシデント発生時の対応方針を明確化すると述べている。
• 今回の発表は、AIの安全性と倫理に関する議論を一層深める契機となる。