非CUDA推論の現状は？

MI50 GPUを用いたCUDA以外の環境でのLLM推論の現状についての質問。非CUDA環境での画像生成や音声合成（STT）の実行可能性、特にWhisper.cppの実行について言及しており、ハードウェアの多様な利用方法を探る上で興味深い。