LLM推論初出 9/13 18:17
koboldcpp + Cherry Studio で DeepSeek V4 Flash を 292k コンテキストで回した際の備忘録
https://zenn.dev/topics/ai/feed2026/9/13
AI要約
koboldcppとCherry Studioを使用し、DeepSeek V4 Flashモデルを292kコンテキストで実行した際の備忘録。文脈の忘却、毎ターンの再処理、ツールコール失敗の原因と対処法について、2026年9月時点の環境(koboldcpp 1.120、DeepSeek V4 Flash 0731、Cherry Studio v2.0.12-v2.0.14)で確認した内容を記録。
AI要点
- 292kという長大なコンテキストでDeepSeek V4 Flashをkoboldcpp + Cherry Studio で実行した際、文脈喪失、処理遅延、RAM枯渇などの問題が発生した。
- これらの問題は、Cherry Studioの履歴加工設定、koboldcppによるモデル判定、ツールコール解析、サンプラーとツール名の相性などに起因していた。
- 「保持する直近メッセージ数」の設定を無制限にする、コンテキスト管理を無効にするなどの設定変更で、問題は解消された。
- ツールコールの失敗は、創作用サンプラーとツール名の相性や、DeepSeek V4 Flashの「RNN/ハイブリッド」判定が原因で発生していた。
なぜ重要か
ローカルLLMを大規模コンテキストで安定稼働させるには、クライアント・サーバー間の連携設定、モデルの特性理解、ツール連携の最適化など、多岐にわたる設定と原因究明が重要である。