#モデルサポート1件

vLLM Documentation - サポートされているモデル

vLLMのドキュメントによると、Yi-34BモデルはvLLMフレームワークでサポートされています。vLLMは、大規模言語モデル（LLM）の推論を高速化するためのライブラリであり、Yi-34Bのようなモデルを効率的にデプロイおよび実行するための機能を提供しています。ドキュメントは、vLLMがサポートするモデルのリストを更新しており、Yi-34Bがその中に含まれていることが示されています。