ツール/フレームワーク初出 6/4 02:34
qwen35: am17an による MTP のために post-norm hidden state を使用 · Pull Request #24025 · ggml-org/llama.cpp
qwen35: use post-norm hidden state for MTP by am17an · Pull Request #24025 · ggml-org/llama.cpp
https://www.reddit.com/r/LocalLLaMA/.rss2026/6/4
AI要約
llama.cppプロジェクトにおける、Qwen35モデルのためのMTP(Multi-Turn Pre-training)関連のプルリクエストについて。Post-norm hidden stateの使用が提案されており、モデルの性能向上や効率化に貢献する可能性がある。