エージェント初出 8/28 02:55
RedEvoAgent: 経験駆動型スキル進化による自動レッドチーミングエージェント
RedEvoAgent: Automatic Red-Teaming Agent with Experience-Driven Skill Evolution
https://export.arxiv.org/api/query·2026/8/27
AI要約
RedEvoAgentは、経験駆動型のスキル進化を通じて、LLMベースのエージェントに対する自動レッドチーミングを行うフレームワークである。これにより、不適切なツールの使用や永続的な状態変化を引き起こす可能性のある脆弱性を特定し、エージェントの安全性を向上させる。
AI要点
- 経験駆動型のスキル進化により、自動レッドチーミングエージェント「RedEvoAgent」を開発。
- 過去の攻撃経験から簡潔で人間が読める攻撃スキルを抽出し、適応的に進化させる。
- ツールの有効性プロファイリングとスキル更新のためのツール帰属決定、検証ラチェット機構を採用。
- 固定攻撃や既存のエージェントベース手法よりも優れた性能を示し、ツール効率を向上。
- 攻撃者モデルやターゲット実行ハーネス間での転移が可能。
なぜ重要か
LLMベースの攻撃スキルを経験に基づいて進化させるRedEvoAgentは、自動レッドチーミングの効率と有効性を大幅に向上させ、製品レベルのLLMエージェントのセキュリティ強化に不可欠なツールとなります。