LLM推論初出 6/3 21:38

Tensor split mode: 最新のllama.cpp (Qwen-3.6-27b) でCUDAエラーが発生

Tensor split mode: CUDA error on latest llama.cpp with Qwen-3.6-27b

https://www.reddit.com/r/LocalLLaMA/.rss2026/6/3

AI要約

llama.cppの最新版でQwen-3.6-27bモデルをロードする際に発生するCUDAエラーに関する問題提起。Tensor splitモードの導入と、ドライバ/CUDAバージョンの関係性について調査を求めている。