AMD llama.cpp：MTPバッファオーバーヘッドの削減によりQwen 27Bで64K→149Kのコンテキストを実現

AMDのllama.cppにおいて、MTPバッファのオーバーヘッドを削減するパッチが適用されました。これにより、Qwen 27Bモデルでコンテキスト長が64Kから149Kへと大幅に拡張され、より長い対話や処理が可能になりました。

• AMDのllama.cppにおいて、MTPバッファのオーバーヘッド削減パッチが適用された。
• これにより、Qwen 27Bモデルのコンテキスト長が64Kから149Kへと大幅に拡張された。
• モデルのコンテキストウィンドウが倍以上に拡大し、より長文の対話や処理が可能になった。