BitCPM-CANN: Ascend NPU上でのネイティブ1.58ビット大規模言語モデルトレーニング

Huawei Ascend NPUプラットフォーム上で、1.58ビット（3値）量子化を意識した学習（QAT）を系統的に研究した論文「BitCPM-CANN」について紹介しています。極端な低ビット化の実際的な課題に対処し、効率的なLLMトレーニングを目指しています。