KV キャッシュの RAM へのオフロードは悪くないかもしれない

llama.cppのKVキャッシュをRAMにオフロードするオプション（-nkvo）について考察。パフォーマンスと引き換えに、特定環境での利点がある可能性を示唆しています。