その"NEVER"、AIを萎縮させてる？ それとも安全にしてる？ ── 禁止命令が効くときと壊すとき

AIエージェントへのシステムプロンプトにおける「禁止命令」の有効性について考察。否定命令がAIの理解を妨げる可能性（Pink Elephant Problem）と、禁止事項の明示の必要性という、相反する二つの実務知見を比較検討している。

• AIへの「禁止命令」は、表現の幅を狭める場合と、安全性を確保する場合がある。
• 「禁止命令は効きにくい」という理論と、「禁止事項は明示せよ」という技法には矛盾がある。
• 禁止命令には、連続的な表現空間を狭めるものと、離散的な事実を確定させるものがある。
• AIエージェントが禁止命令の適用範囲を誤解しないよう、線引きの基準を明確にすることが重要である。