LLM推論パラメータ入門——Temperature・Top-K・Top-Pの仕組みと実践調参ガイド

LLMの出力品質を左右するサンプリングパラメータ（Temperature, Top-K, Top-P）の仕組みと実践的な調整方法を解説。これらのパラメータがLLMの回答の多様性や精度にどのように影響するかを説明している。

• LLMの出力は、Temperature, Top-K, Top-Pといったサンプリングパラメータで制御可能。
• Top-Kは確率上位K個のトークンを選択肢に残し、ハルシネーションを防ぐ。
• Temperatureはトークン選択確率の格差を調整し、低すぎると決定的、高すぎると多様になる。
• Top-Pは累積確率Pを超えるまでトークンを選択肢に残す動的なフィルタリングを行う。
• これらのパラメータ調整により、LLMの応答の堅実性や創造性をコントロールできる。