P100サーバー nvidia-smi

NVIDIA P100サーバーのnvidia-smiコマンド実行結果を示し、ドライバーバージョンやCUDAバージョンを記載。GPUの状態を把握するための基本的なコマンドであり、LLM推論環境の確認に役立ちます。

• 2枚のTesla P100と1枚のGTX 1060 GPUを搭載したシステムでnvidia-smiコマンドによるGPU状況が確認されている。
• Tesla P100 GPUはファンレス設計のため、Fan列はN/Aと表示され、CHA_FANでの制御の可能性が示唆されている。
• GTX 1060 6GBはデスクトップ表示用として使用され、P100 GPUは画面出力には使用されていない。
• Tesla P100 GPUの消費電力は、実際のtps（tokens per second）への影響を考慮し125Wに制限されている。
• systemdサービスを利用して、GPUの永続化モード（Persistence Mode）をONにし、電力上限を設定する自動化が行われている。