NVIDIA NVLink Fusion、NVHBM カスタム高帯域幅メモリで機能拡張

AIの次世代の波は、インフラに新たな要求をもたらしています。AIエージェントや兆パラメータ規模のワークロードが一般的になるにつれて、AIインフラの性能は演算能力だけでなく、演算、メモリ、ストレージ、ネットワーク、ソフトウェアの連携によって決まります。

• NVIDIAは、XPUのメモリ性能を高める「NVIDIA NVHBM」を「NVLink Fusion」に拡張した。
• NVHBMは、メモリコントローラを3D HBMスタックに統合し、メモリ帯域幅を最大30%向上させる。
• これにより、XPUの演算ダイ領域を最大25%拡大し、AIワークロードの性能と効率を高める。
• Amazon傘下のAnnapurna Labsが、次世代TrainiumチップでNVHBMの採用を予定している。