Apple M5は、まだmatmulコアを最大限に活用できていません

Apple M5チップが現時点でmatmulコアを最大限に活用できていない可能性について論じています。MLXやLlama.cppでのINT8アクティベーションのサポート状況と、それによる性能向上の可能性に言及しています。

• Apple M5チップは、現時点ではmatmulコアの性能を最大限に引き出せていない可能性が指摘されています。
• MLXやLlama.cppにおけるINT8アクティベーションのサポート状況が、性能向上に影響を与えている可能性に言及しています。
• 将来的なソフトウェアのアップデートにより、M5チップの行列演算性能が向上する可能性が示唆されています。