LLM推論初出 6/9 00:24

Luce Spark: オフロード税なしで16GB GPUで動作する35B MoE

Luce Spark: a 35B MoE on a 16 GB GPU, without the offload tax

https://www.reddit.com/r/LocalLLaMA/.rss2026/6/9

AI要約

Luce Sparkという35BパラメータのMoEモデルを、オフロードなしで16GB GPU上で動作させる技術について紹介。低リソース環境での大規模モデル実行の可能性を示唆。