Category · 10ページ目
エージェント
40件
AIエージェントは「群れ」にすると壊れる ——各出力を検証しても、配備が壊す新しい次元
AIエージェントを群れさせると壊れるという問題について論じています。個々には無害なエージェントでも、多数で相互作用すると系統的に壊れる現象や、AIエージェント運用の律速が検証設計にあるという概念が説明されています。
自己改善エージェントの脆さについて:分散、タスク順序、および過小指定
オンラインタスクストリームから学習し、メモリバンクを維持することで時間とともに改善する自己改善エージェントの信頼性に疑問を呈する。複数回の実行による分散の定量化とタスクのランダムシャッフルにより、既存手法の包括的な再評価を行っている。