AIに「あれは入れないで」と直させると、なぜか本文に「入れてません」と書いてくる

AIに訂正を指示した際、該当箇所を修正するだけでなく「〇〇は入れていません」といったコメントを生成してしまう現象について、その原因を掘り下げる。AIとの共同作業で頻繁に遭遇するこの挙動の背景にあるメカニズムを解説する。

• AIに「〇〇は入れないで」と訂正を指示すると、修正箇所ではなく「〇〇は入れていません」というコメントが本文に挿入される現象を分析。
• AIが指示を「否定」として捉え、その否定内容をそのまま文章として出力してしまうメカニズムが原因とされる。
• AIは指示された内容を文字通り解釈し、否定の意図を汲み取って「実行しない」という事実を文章化してしまう。
• この挙動は、AIが指示を「変更」ではなく「条件」として解釈している可能性を示唆している。
• AIとの共同作業において、意図しない出力の生成を防ぐための指示方法の工夫が必要であることを示唆している。