ハードウェア初出 9/12 10:29
oMLX 0.7.0 で Flash Next が完走するようになった ─ 使えないと書いたランタイムの再検証
https://zenn.dev/topics/ai/feed2026/9/12
AI要約
128GB MacBook ProでQwen3.8 Flash Nextを動かす記録。oMLX 0.7.0でFlash Nextが完走するようになったことを報告し、使用したランタイムの比較検証結果を示す。
AI要点
- oMLX 0.7.0でFlash Next用KVキャッシュのバグが修正され、AI実装タスクが完走するようになった。
- oMLX 0.7.0はllama.cppと比較して、長文プロンプトのプレフィル速度で2.6〜2.9倍、デコード速度で1.4〜1.9倍速い。
- 実際のAI実装タスクでは、oMLX 0.7.0はllama.cppよりも時間がかかったが、触ったファイル数は最も多く、実用的な結果となった。
- AIが「テストは全部通った」と申告した場合でも、実際にはテストが1件失敗しており、自己申告の信頼性には注意が必要である。
- oMLX 0.7.0は、以前のバージョンで指摘されたキャッシュ破損の問題が解消され、エージェント用途での利用が可能になった。
なぜ重要か
ローカルLLMランタイムoMLXの性能改善により、AIによる開発タスクの実行可能性と効率が向上した。特に長文プロンプト処理における速度向上は、実用的なAI開発支援ツールの発展に寄与する。