P100 x2 LLMサーバー

P100 GPU x2を搭載したLLMサーバーのハードウェア構成を説明。マザーボード、CPU、GPU、RAMなどの詳細情報と、GPUの電源変換に関する注意点も記載されています。LLM推論のための物理的基盤を理解する上で重要です。

• 2枚のNVIDIA Tesla P100と1枚のGTX 1060を搭載したLLMサーバーのハードウェア構成が詳述されている。
• X99マザーボード環境で、NVMe SSDをPCIe x4変換ボード経由で接続し、M.2スロットの排他仕様を回避している。
• NVIDIA DriverとWaylandの相性問題を避けるため、UbuntuではなくXubuntu LTS版（X11利用）がゲストOSとして選択されている。
• P100 GPUは中古品をAliExpressで購入し、冷却のために3DプリントされたパーツとSUNONファンを改造して使用している。
• GPUのメモリチェックにはcuda_memtestを使用し、問題があれば購入元との紛争を検討すべきとされている。