Category · 66ページ目
LLM推論
40件
LLM推論初出 8/13 17:24
Minimax Music 3 open weightはもうすぐリリース？
Minimax Music 3のオープンウェイトリリースが間近であるという情報と、既にリリースされたという情報です。音楽生成AIの進化に貢献するモデルの公開が期待されます。
https://www.reddit.com/r/LocalLLaMA/.rss
LLM推論初出 8/14 01:12
124Bモデル、DGX Spark 1台で単一応答で15,128トークンを生成、デコード速度は全体で35.62 → 35.68 tok/s
124Bパラメータのモデルが、単一のDGX Spark上で15,128トークンを生成し、デコード速度も示されたという報告です。大規模モデルの推論性能に関する具体的なデータを提供しています。
https://www.reddit.com/r/LocalLLaMA/.rss
LLM推論初出 8/14 00:19
unsloth/DeepSeek-V4-Pro-0813-GGUF · Hugging Face の紹介
unsloth/DeepSeek-V4-Pro-0813-GGUFという形式のモデルがHugging Faceで公開されました。GGUF形式は、モデルのローカル実行を容易にするためのもので、より多くのユーザーが利用可能になります。