ハードウェア初出 7/26 02:42
36GB MacBookでSSDからMoEエキスパートをストリーミングし、35B–480Bコーディングモデルを実行 - 自己完結型アプリ、失敗したベンチマークも公開
I run 35B–480B coding models on my 36 GB MacBook by streaming MoE experts from SSD — self-contained app, and I publish the benchmarks that *failed* too
https://www.reddit.com/r/LocalLLaMA/.rss2026/7/26
AI要約
36GBのMacBookで35B–480BのコーディングモデルをSSDからのストリーミングで実行する技術が紹介されている。RAMに収まらない巨大モデルを実用的な速度で動かすための革新的なアプローチである。
AI要点
- 36GBのMacBookでSSDからMoEエキスパートをストリーミングする技術が開発された。
- RAMに収まらない巨大なコーディングモデル（35B–480B）を実行可能にする。
- 自己完結型アプリとして提供され、失敗したベンチマークも公開されている。
- ストレージからのモデルロードにより、メモリ制約を克服する手法が示されている。
なぜ重要か
限られたハードウェアリソースでも大規模言語モデルを実用的に利用できる可能性を示し、ローカル環境でのAI開発や活用の敷居を大きく下げる技術的ブレークスルーとなり得るため。