そのAI開発、ハルシネーションに耐えられる？ ― 何も知らずに開発すると、気づかないまま壊れていく

AI開発におけるハルシネーション（幻覚）への対応の重要性を説く。AIの「視界」を適切に絞り込む高度な操作が必要であり、これを怠ると気づかないうちにAI開発が破綻するリスクがあると警告している。

• LLMは、知識をデータベースのように保持するのではなく、必要時に抽象から具体へと情報をJust-In-Time（JIT）で組み立てる。
• ハルシネーションは、具体的な情報が不足している箇所を、モデルが学習した「もっともらしいパターン」で補完してしまう現象である。
• プロンプトの具体性や形式性が低いと、LLMは自身で隙間を埋めようとし、ハルシネーションを引き起こしやすくなる。
• 具体的な情報へのアクセスには、ドメインの語彙や概念といった「狭い抽象」が不可欠であり、抽象は具体への道標となる。
• 過去に正しかったAIの防御コードが、具体的なコンテキスト（ヘッダー情報など）の不足により、気づかないうちに機能しなくなっていた事例が報告されている。