安価なGPUの購入を計画中。アドバイスをいただけると幸いです。

700ドル程度の予算で、Qwen 3.8 27B Q4_K_Mのような30Bパラメータモデルを20 T/s以上で実行できるGPUを探しているユーザーへのアドバイスを求める投稿。ローカルLLM実行に適したGPUの選定が中心。

• 700ドル程度の予算で、Qwen 3.8 27B Q4_K_Mのような30Bパラメータモデルを20 T/s以上で実行できるGPUを探している。
• ローカルLLM実行に適したGPUの選定について、具体的なモデル名や性能目標を挙げてアドバイスを求めている。
• 予算内で高性能なLLMをローカルで動かすためのハードウェア選定に関する情報交換が行われている。