AMDのMI355XはNvidiaのB300より低コスト、中国のKimi K3を実行

AMDのMI355X GPUがNvidia B300の半額以下でKimi K3モデルを稼働させることが判明。スループットではB300が優位だが、MI355Xの価格優位性がAMDにとってNvidiaに対する明確な推論経済性の勝利となった。

• AMDのInstinct MI355X GPUが、NvidiaのB300 GPUと比較して、中国のKimi K3モデル（2.8兆パラメータ）の実行コストが半額以下であることがベンチマークデータで示された。
• MI355Xは、Kimi K3モデルを8基のGPUで稼働させ、十分なメモリ余剰があることが確認された。
• Kimi K3モデルは、混合精度（MXFP4）とBF16表現で約1.56TBのチェックポイントサイズを持ち、MI355Xは8基構成でGPUあたり約82.6GiBのヘッドルームを持つ。
• Nvidia B300 GPUも同様に8基でKimi K3モデルを実行可能だが、AMD MI355Xはコスト面で優位性を示している。