Metaの意地を見せたか　Muse Glimmer 30Bの実力を見てみる

Metaが最新のLLaMa-4の失敗を経て、ミッドレンジモデル「Muse Glimmer 30B」をリリース。ローカルLLM界隈に驚きを与えた。本稿では、そのアーキテクチャを解説し、GPU環境での実動テストを行う。

• MetaはLLaMaシリーズでオープンウェイトLLMの普及を牽引したが、LLaMa-4の失敗で苦境に立たされていた。
• 突如発表された「Muse」シリーズ、特にミッドレンジモデルの「Muse Glimmer 30B」がローカルLLM界隈で注目されている。
• Muse Glimmer 30Bは、Qwenに似たブロック配置と、Gemma-4に類似した「局所＋全体」のSliding Window AttentionとFull Attentionを組み合わせたハイブリッド構造を持つ。
• SA（Sliding Window Attention）とFA（Full Attention）の層構成比率が3:1であり、RoPEのθ値が層ごとに切り替え可能という特徴がある。
• Vision機能や投機的デコード技術D-Flashとの組み合わせ検証も行われ、Metaの雪辱への期待が寄せられている。