優秀なAIほど、ポンコツになるのはなぜか ── 殴ってくる外部と、飲み込める外部

優秀なAIほど、引用元と異なる断言や資料の未読など、ポンコツになる現象を考察。文章生成では発生するが、コード生成では少ない理由を探る。

• 文章生成AIは、コード生成AIと比較して、根拠のない断定や事実誤認が多い傾向があります。
• この差は、AIが「現実からのフィードバック（外部参照）」を受け取れるかどうかの構造的な違いに起因します。
• AIは、内部知識だけで「もっともらしいが誤った」回答を生成する能力が高まっており、特に複雑な領域で顕著です。
• モデル規模の拡大や指示調整（instruction tuning）は、回答回避率を下げ、誤情報の頻度を上げる可能性があります。
• デバッグなどの現実からのフィードバックが豊富な作業では、AIは誤りを訂正し精度を向上させやすいです。