llama.cppでGPU VRAMのみを使用して小さなモデルを実行することは可能ですか？

llama.cppでGPU VRAMのみを使用して小型モデルを実行可能か、という質問です。4070（12GB VRAM）と32GB RAMの環境でGemma4やQwenのモデルを動作させている経験から、より少ないVRAMでモデルを動かす方法を模索しています。