異種GPUの重み付けとレイヤ分割

ローカルLLM実行における、複数のGPUにまたがる重み付けとレイヤースプリッティングに関する考察です。Windows環境でのビルドの難しさや、特定のOS（Darwin）に依存する現状について触れており、ローカル環境でのLLM実行の課題を示唆しています。