ExLlamav3の最近のアップデート：CPUオフロード、GLM-5.3-FLASH、Qwen3.8-Flash、SC Quants ++

ExLlamav3の最新アップデートにより、CPUオフロード、GLM-5.3-FLASH、Qwen3.8-Flash、SC Quantsなどの機能が追加・改善されました。CPUオフロードは、GPUメモリに収まらないモデルをCPUで補完して実行する技術です。これにより、より大きなモデルや、より多くのパラメータを持つモデルをローカル環境で実行することが可能になります。

• ExLlamav3にCPUオフロード機能が追加された。
• GPUメモリに収まらない大規模モデルをCPUで補完実行可能になった。
• GLM-5.3-FLASH、Qwen3.8-Flash、SC Quantsなどの機能も追加・改善された。
• より多くの、あるいはより大規模なモデルをローカル環境で実行できるようになった。