LLMに解き方を教えるのではなく、評価を与えよ

LLMに直接解法を指示するのではなく、評価（eval）を通じて自律的に解決策を探索させる手法を提案。既知の解答を持つ制御されたWeb環境を構築し、LLMがその環境内で解法を見つけ出す実験を行った。

• LLMに解決策の「やり方」を指示するのではなく、「完了」の定義を与え、LLM自身に解決策を見つけさせるアプローチが提案された。
• 従来の機械学習のように、正解（ラベル）を与えてモデルに学習させる方法論をLLMに応用する。
• LLMには、問題解決のプロセスではなく、達成すべき目標（評価指標）を明確に定義する必要がある。
• このアプローチは、Rich Suttonの「Bitter Lesson」の原則に沿っており、長期的な汎用性を目指す。
• LLMは、プロンプト、コントローラー、メモリ、コードなどの探索空間において、評価に基づいて最適な解決策を探索する。