LLM推論初出 8/11 10:00
Few-shot例を5個渡したら、AIが真似したのは最後の1個だけだった
https://zenn.dev/topics/ai/feed2026/8/11
AI要約
Few-shot学習において、5つの例を渡してもAIが模倣するのは最後の1つだけという現象を報告。順序を入れ替えても同様の結果となり、これは「Choice Overload」のFew-shot版であると指摘。AI生成UIの色選択の例と比較し、例示における順序の影響を解説。
AI要点
- AIにFew-shot例を5個渡した実験で、生成されたコードは最後の1個の例しか模倣しなかった。
- 例の順序を入れ替えても、常に末尾の例が生成物に強く影響を与える「位置バイアス」が確認された。
- これは「Lost in the Middle」現象のFew-shot版であり、LLMは中央の例を無視する傾向がある。
- Few-shot例は2個に絞り、主張したい口調(命令形など)を最後に置く、または末尾に合成例を置くのが効果的である。
- 5個の例を渡す労力の多くは無駄であり、効果的なプロンプトエンジニアリングには例の数と配置が重要であると結論付けている。
なぜ重要か
LLMへのFew-shot学習における「位置バイアス」という重要な特性を明らかにする。これにより、プロンプトエンジニアリングの効率が大幅に向上し、AIモデルから意図した出力を引き出すための具体的な手法(例の数と配置の最適化)を提供し、AI活用における試行錯誤のコストを削減する。