LLM推論初出 5/18 07:13
2026年最新】Claudeの新憲法を徹底解説 - Constitutional AI 2.0が実現する『価値観を持つAI』の全貌
Constitutional AI2026/5/18
AI要約
Constitutional AI(CAI)は、Anthropicが開発したAIの安全性を高める訓練手法で、従来のRLHFに加え、明示的な原則(憲法)をAIに組み込みます。2026年1月には「Claude's New Constitution」が公開され、具体的な行動ルールのリストから、AIが自己評価・自己改善を行うための包括的な原則へと進化しました。