ルールを増やすほど、AIは言うことを聞かなくなる

AIに指示を出す際、ルールを増やすほどAIが指示を守らなくなる傾向がある。これは、長い文章を読ませて答えを探させる実験で、資料を多く渡すほど正解率が低下する現象からも示唆されている。

• AIに指示を出す際、ルールの数を増やすほど、AIが従う確率が低下することが研究で示されている。
• 長い文章や指示が文章の真ん中にある場合、AIの遵守率が低下する傾向がある。
• Claude Codeのような開発ツールでは、ルールファイルを「参考」として読ませるものであり、「強制」ではないと明記されている。
• AIに自己採点させると甘くなるため、独立した採点役を置くことが推奨される。