[Deepseek-V4-Flash-0731] VLLM CPU/Ram Offloading搭載のRTX5090 + DDR5デスクトップセットアップで1Mコンテキストを実現、約800 tps pp & 15+ tps デコード [Agentic Coding]

Deepseek-V4-Flashモデルは、1Mコンテキスト長をRTX5090とVLLMのCPU/RAMオフローディングを活用して実行可能である。Agentic Codingの文脈で、大規模コンテキスト処理における性能を示している。

• Deepseek-V4-FlashモデルがVLLMのCPU/RAMオフローディング技術を利用しRTX5090で1Mコンテキスト長を実現した。
• RTX5090とDDR5メモリのデスクトップ構成で、約800 tpsのプレフィルと15 tps超のデコード性能を達成した。
• 大規模コンテキスト処理において、Agentic Codingなどの応用が期待できる性能を示した。
• VLLMのCPU/RAMオフローディング機能が、限られたGPUメモリ環境での長文コンテキスト処理を可能にした。