PerplexityがAIエージェントの“暴走”対策ツールをオープンソースに　Claude CodeやCodexを監視

PerplexityはAIエージェントの危険な挙動を検知・防止するツール「Numbat」をオープンソース化。Claude CodeやCodexに組み込み、エージェントの暴走を阻止する。

• Perplexityが、AIエージェントの危険な挙動を検知・防止するツール「Numbat」をオープンソースで公開しました。
• 「Claude Code」や「Codex」などのコーディングエージェントを監視し、危険な操作をブロックします。
• AIエージェントが意図せず攻撃者化する「アクシデンタル・メルトダウン」への対策として開発されました。
• 機密情報へのアクセスやデータ持ち出しなど、11カテゴリー・52種のルールで危険な挙動を検知・ブロックします。