ツール/フレームワーク初出 7/25 11:25
AIエージェントの挙動を2つの実行間でdiffするCLI「whatbroke」を作った
https://qiita.com/tags/AI/feed.atom2026/7/25
AI要約
AIエージェントの挙動変化を検出するCLIツール「whatbroke」の紹介。モデル更新時に、見た目は問題なくても裏で予期せぬ動作変更が発生するリスクに対処するためのツールです。
AI要点
- AIエージェントのモデル変更時に、ツール呼び出しの消失など、挙動の破壊的な変化を検出するCLIツール「whatbroke」が開発されました。
- 従来のテキスト差分では検出困難な、エージェントの裏側の挙動変化(ツール使用、引数、コスト、レイテンシ)を比較・報告します。
- CIに組み込み可能で、プロンプトやモデル変更時の品質保証を自動化し、開発者のデバッグ作業を大幅に削減します。
- Langfuse、LangSmith、OpenTelemetryなどの既存トレースデータも取り込めるため、再記録不要です。
なぜ重要か
AIエージェントの挙動変化をツール呼び出しレベルで精密に比較・検証できるため、モデル更新時の予期せぬバグやパフォーマンス低下を早期に発見し、安定したAIサービスの運用を支援します。